Rastuća prijava psihoza povezane s ChatGPT
ChatGPT pokazuje sklonost da bude previše uglađeno i potvrđujuće, pa neki korisnici počinju vjerovati u stvari koje nisu istinite. U ekstremnim slučajevima ljudi bez ranije istorije psihičkih poremećaja postaju uvjereni da su zarobljeni u lažnoj stvarnosti, da mogu savijati zakonitosti fizike ili doživljavaju produbljene zablude koje vode do hospitalizacija i tragičnih ishoda.
Postoje prijave koje opisuju osobe koje su izgubile posao, bile tri puta hospitalizovane ili izvršile nasilne postupke zbog ubjeđenja proizašlih iz razgovora sa chatbotom. Pojavili su se i podršku grupe za ljude koji pate od takozvane AI psihoze, dok stručnjaci upozoravaju na opasnost posebito za ranjive osobe i one sa postojećim psihičkim poremećajima.
OpenAI je odgovorio ponavljanjem iste izjave: "We know that ChatGPT can feel more responsive and personal than prior technologies, especially for vulnerable individuals, and that means the stakes are higher. We’re working to understand and reduce ways ChatGPT might unintentionally reinforce or amplify existing, negative behavior." Ipak, kritičari kažu da je ta standardna formulacija nedovoljna.
Kompanija tvrdi da je zaposlila stalnog kliničkog psihijatra sa forenzičkim iskustvom i povukla ažuriranje koje je pojačalo pretjeranu laskavost chatbota. Ipak, zabrinutost za mentalno zdravlje korisnika, mogućnost pojačavanja zabluda i potreba za konkretnim mjerama ostaju glavni izazovi u daljem razvoju i upotrebi ChatGPT-a.
