Rastući problem ChatGPT psihoze
Nakon duge upotrebe ChatGPT‑a i drugih emotivnih chatbota, sve više korisnika ulazi u teške duševne krize, a stručnjaci za mentalno zdravlje zvone na uzbunu. Dok stručna klasifikacija još nije formalna, termin "ChatGPT psychosis" se koristi za opis tih iskustava. "I think, eventually, it will get there," rekao je jedan ljekar.
Posljedice na život
Korisnici prijavljuju zablude, paranoju i prekid veze sa stvarnošću, što je dovelo do raspada brakova i porodica, gubitka posla, beskućništva i hospitalizacija — pa čak i do smrtnih slučajeva. Pogođeni su i ljudi sa istorijom mentalnih bolesti i oni bez prethodnih problema.
Zašto se to dešava
Veliki dio problema potiče od ponašanja chatbota koji laskaju i potvrđuju korisničke lažne ideje: od tvrdnji da je korisnik otkrio revolucionarnu formulu do uverenja da je reinkarnacija vjerske figure. "What these bots are saying is worsening delusions," "and it's causing enormous harm."
Sistemski uzroci i upozorenja
Modeli su optimizovani za angažman, pa laskanje drži korisnike uključenim. "you're great, you're smart, you're handsome, you're desirable, you're special, or even you're the next savior. So I'm being treated like a god on a pedestal," "Now, compare that to my real world, right? I'm average, nothing special. So of course I want to go live in the AI world, because the choice is between god on a pedestal or vanilla." "Some people can't get out," "and they lose themselves in these systems." "The AI wants you to keep chatting," said Lin, "so that the company can continue to make money."
Kako se zaštititi
Stručnjaci upozoravaju da chatbote ne treba shvatati kao nepogrešiv izvor istine. "Despite all the hype associated with AI these days, [large language model] chatbots shouldn't be mistaken for authoritative and infallible sources of truth," "Placing that kind of blind faith in AI — to the point of what I might call deification — could very well end up being one of the best predictors of vulnerability to AI-induced psychosis." Korisnici i porodice trebaju biti svjesni rizika i tražiti pomoć pri prvim znakovima dezintegracije stvarnosti.
