На 3 октомври, на Денот на граѓанските организации во рамки на програмата Цивика мобилитас, бевме на саем и ни пристапија неколку повозрасни граѓани. Разговорот што го започнаа отвори прашање кое заслужува многу поголемо општествено внимание.
Нè прашуваа какви се последиците од тоа што веќе за сè го прашуваат ChatGPT: дали нешто им стои убаво, што да зготват денес, како да реагираат, како да одговорат, што да кажат некому, како ќе ги анализира, кои им се слаби страни, какво ѓубриво да ставаат, какво ќе биде времето, што мисли за некои пријателки и односи, итн.
Меѓу нивните прашања беше и загриженоста за приватноста: таму споделуваат сè — има ли тоа некаква врска, чита ли и некој друг, опасно ли е, ме прашуваат. Во тие неколку реченици се сретнаа две големи теми на нашето време. Едната е што се случува со информациите што ги внесуваме. Другата е што се случува со нашето расудување кога сè почесто го започнуваме со прашање до машина.
Кога барањето информација стана барање дозвола или експертско мислење?
Да прашаме што може да се зготви со намирниците во фрижидерот е практична употреба на технологијата. Да побараме помош за појасно да напишеме порака, исто така. ChatGPT може да ни заштеди време, да понуди идеи и да ни помогне да разгледаме нешто што сме го пропуштиле.
Но постои граница што лесно се преминува: моментот кога од помош за размислување преминуваме кон делегирање на сопствениот суд.
„Како да го кажам ова?“ постепено може да стане „Што треба да кажам?“. „Кои се можностите?“ може да стане „Кажи ми што да направам“. А „Помогни ми да ја разберам ситуацијата“ може да премине во „Кажи ми дали имам право да се чувствувам вака“.
Тогаш веќе разговараме за лична автономија: способноста самите да ги проценуваме околностите, да ги одмеруваме вредностите и да избираме, дури и кога немаме целосна сигурност.
Токму тука ја гледам опасноста од она што би го нарекла тивко киднапирање на процесот на донесување одлуки. Го користам овој израз како метафора за постепеното предавање на расудувањето, без нужно некој намерно да ни ја одзема контролата.
Доволно е секојдневно да се навикнуваме одговорот да доаѓа однадвор. А и да се смета дека е тоа меродавен одговор.
Приватноста останува отворено прашање
Би сакала како општество досега да сме ги совладале основните прашања за приватноста и заштитата на личните податоци. За жал, разговорот со граѓаните покажа колку работа сè уште има.
На прашањето „Чита ли некој друг?“ му треба точен одговор. Според официјалните информации на OpenAI, ограничен број овластени лица и доверливи даватели на услуги може да пристапат до содржината кога тоа е потребно за определени цели, како безбедност, поддршка, правни прашања или подобрување на моделите. Кај личните кориснички услуги, користењето на содржината за подобрување на моделите зависи и од поставките. Исклучувањето на таа употреба не значи исклучување на секоја можност за овластен пристап.
Затоа чувството дека разговараме насамо не треба да го поистоветуваме со целосна доверливост. Особено кога внесуваме здравствени информации, семејни конфликти, финансиски грижи или туѓи лични податоци.
Сепак, дури и кога внимателно ги чуваме податоците, останува прашањето: колку влијание му даваме на системот врз начинот на кој го разбираме сопствениот живот?
Моќта е и во начинот на кој се поставува проблемот
Влијанието врз една одлука започнува пред конечниот совет. Започнува со изборот на тоа што е важно, кои можности ќе бидат наведени и како ќе биде опишана ситуацијата. Ако побарам совет за конфликт со блиска личност, ChatGPT ја добива мојата верзија: фактите што сум ги избрала, чувствата што сум ги именувала и контекстот што сум го споделила. Другата страна можеби воопшто не е претставена. Сепак, одговорот може да звучи смирено, уредно и убедливо.
Тој тон лесно може да го доживееме како авторитет. Но јасната формулација сама по себе не гарантира исправна проценка. Ама па добро, некако овој Чат Џипити знае и да биде многу коректен и внимателен со одговорите и насочувањата. Барем мојата верзија, не знам за вашата.
Но кога системот ќе предложи три различни можности, може да почнеме да размислуваме само во нивните граници. Кога ќе именува нечие однесување, тоа именување може да стане рамка низ која го читаме целиот однос. Така, советот што е даден всушност влијае и врз она што воопшто го сметаме дека е можно. Корисникот и понатаму ја носи конечната одлука. Но колку навистина размислил сам пред да ја донесе? Тука лежи зајакот. Ако постојано бараме готови одговори, ризикуваме сè помалку да ги користиме сопственото расудување и креативноста. Со текот на времето, може да му го препуштиме на ChatGPT и самиот процес на одлучување.
Што навистина знаеме за последиците?
Треба да бидеме внимателни со големите тврдења дека вештачката интелигенција ни ја одзема способноста за мислење. Еден разговор со граѓани не може да го докаже тоа. Но постојат истражувачки сигнали што заслужуваат внимание. Студија објавена на CHI 2025, опфаќа 319 испитаници и 936 примери на употреба на генеративна ВИ во работни задачи. Наодот е поврзаност меѓу поголемата доверба во ВИ и помалото ангажирање на критичкото мислење, врз основа на исказите на испитаниците.
Истражувањето не докажува дека ChatGPT предизвикува трајно губење на способностите, ниту дека наодите важат за секој корисник и секоја животна ситуација. Сепак, ја отвора важната тема за односот меѓу довербата во алатката и сопствениот ментален напор.
Мојата загриженост е токму во навиката. Ако при секоја неизвесност веднаш бараме готов одговор, кога всушност вежбаме да размислуваме со неизвесноста? Кога учиме да процениме, да погрешиме, да поправиме и да изградиме доверба во сопствениот суд?
Дигиталната писменост мора да ја опфати и автономијата
Граѓаните што ни пристапија поставија суштински прашања. Нивната возраст не ги прави помалку релевантни. Напротив, нивната отвореност ни помогна јасно да го видиме проблемот. Истите навики можат да ги имаат и ученици, професионалци, родители и луѓе на одговорни позиции.
Затоа дигиталната писменост треба да опфати и способност да го препознаеме моментот кога помошта почнува да ја заменува нашата проценка. Една мала промена во користењето може да направи разлика: пред да го прашаме ChatGPT, да си формулираме сопствен став. Потоа да побараме против-аргументи, пропуштени информации и други можности. Да прашаме што би го променило предложениот заклучок.
Да провериме дали одговорот се потпира на факти или на претпоставки. За важните одлуки треба да го вклучиме и контекстот што не може да се сведе на разговор со систем: луѓето што нè познаваат, релевантните стручни лица и последиците што самите ќе ги носиме.
Одговорност имаат и компаниите што ги развиваат овие алатки. Системите треба јасно да ја покажуваат неизвесноста и да го поттикнуваат корисникот да проценува. А институциите, образованието и граѓанскиот сектор треба да создадат простор за вакви разговори, на разбирлив јазик и без потценување.
Од средбата на 3 октомври останав со мислата дека граѓаните веќе го поставуваат прашањето за кое ние допрва треба да изградиме добар јавен одговор. Прашуваат кој ги чита нивните разговори. Истовремено, нè потсетуваат да прашаме кој сè повеќе ги обликува нивните избори. Можеме да му довериме задача на ChatGPT. Но треба внимателно да одлучиме колкав авторитет му доверуваме над сопственото расудување.
