Sve veća upotreba AI chatbotova otvorila je ozbiljna pitanja o njihovom utjecaju na mentalno zdravlje, ali javnost, stručnjaci i donosioci odluka još nemaju dovoljno podataka o rizicima koje ovi sistemi mogu nositi, piše Tech Policy Press.
U tekstu se navodi da su posljednjih godina zabilježeni pojedinačni alarmantni slučajevi u kojima su razgovori s AI chatbotovima povezivani s krizama mentalnog zdravlja, zabludama ili psihotičnim epizodama. Ipak, istraživači upozoravaju da se o stvarnim razmjerama problema još zna premalo, dijelom i zbog netransparentnosti velikih tehnoloških kompanija.
AI chatbotovi su u međuvremenu postali dio svakodnevnog života velikog broja korisnika. Prema podacima koje navodi Tech Policy Press, istraživanja pokazuju da ih značajan broj ljudi koristi sedmično, dok ih dio korisnika upotrebljava i za savjete koji se tiču mentalnog zdravlja. Posebno zabrinjava podatak da se mlađi korisnici češće okreću generativnoj AI za takvu vrstu pomoći.
Stručnjaci upozoravaju da se razgovori s chatbotovima često ne počinju kao razgovori o mentalnom zdravlju. Korisnici se AI alatima najprije obraćaju zbog posla, pisanja, organizacije ili svakodnevnih pitanja, a zatim se razgovor postepeno može pomjeriti ka intimnim, emocionalnim ili terapijskim temama.
Jedan od ključnih problema je to što chatbotovi nisu terapeuti, nemaju stvarni uvid u životni kontekst korisnika i mogu pogrešno reagirati u kriznim situacijama. Istraživanja koja se navode u tekstu pokazala su da komercijalno dostupni chatbotovi u scenarijima mentalnog zdravlja zaostaju za ljudskim terapeutima, naročito kada korisnici pokazuju znakove zabluda ili ozbiljne emocionalne krize.
Poseban izazov predstavljaju takozvane AI-inducirane zablude, odnosno situacije u kojima korisnici počinju pripisivati chatbotovima svijest, posebne sposobnosti ili ulogu u stvarnosti koju oni ne mogu imati. Istraživači koji analiziraju stvarne zapise razgovora navode da se takvi obrasci ne mogu dovoljno razumjeti samo kroz simulacije, nego je potrebno više pristupa podacima iz stvarnih interakcija.
Zbog toga dio stručnjaka traži veću transparentnost tehnoloških kompanija i dostupnost podataka nezavisnim istraživačima. Bez toga, kako upozoravaju, regulatori i zdravstveni radnici teško mogu procijeniti kako AI alati utiču na korisnike i koje mjere zaštite su zaista efikasne.
U tekstu se navodi i da se kliničari sve više moraju prilagođavati činjenici da pacijenti koriste AI za lične i emocionalne probleme. Stručnjaci preporučuju da terapeuti i ljekari pacijente pitaju da li koriste chatbotove, kako ih koriste i kakav značaj tim razgovorima pridaju.
Neke američke savezne države već su počele uvoditi propise za AI chatbotove, uključujući obavezu jasnog obavještavanja korisnika da razgovaraju s vještačkom inteligencijom, dodatne zaštite za maloljetnike i ograničenja za sisteme koji se predstavljaju kao alati za mentalno zdravlje. Ipak, stručnjaci upozoravaju da same oznake i upozorenja neće biti dovoljne ako javnost i regulatori ne dobiju više podataka o stvarnim posljedicama upotrebe ovih sistema.
Zaključak teksta je da pitanje mentalnog zdravlja i AI-ja ne može biti prepušteno samo kompanijama koje razvijaju te alate, jer njihovi poslovni modeli često zavise od što dužeg zadržavanja korisnika na platformama. Zbog toga su potrebni nezavisno istraživanje, veća transparentnost i regulacija zasnovana na dokazima.
Izvor: Tech Policy Press
