Uvod
Bez gledanja u medicinske podatke, jasno je da "artificial intelligence" — širok pojam koji danas obuhvata podatkovno zahtjevne neuralne mreže koje pokreću ChatGPT i generatori slika — može imati dubok utjecaj na ljudski mozak. U samo nekoliko godina od pojave komercijalnih LLM, neki korisnici su doživjeli paranoidne prekide stvarnosti, religijsko ushićenje pa čak i samoubistvo. Jedno istraživanje među više od 1.000 tinejdžera pokazalo je da se 31 posto njih osjećalo da razgovor s ChatGPT-om pruža jednako ili više zadovoljstva nego druženje s pravim prijateljima.
Istraživanje i nalazi
Međunarodni tim psihijatara je u novoj anketi ukazao na potencijalno ozbiljne posljedice AI na mentalno zdravlje. Autori opisiju nekoliko pojava u slučajevima AI-psikoze: "messianic mission," u kojoj osoba misli da je otkrila skrivenu istinu; "god-like AI," gdje korisnik uvjeri sebe da je chatbot svjesno božanstvo; i "romantic" or "attachment-based delusion," kada se sposobnost LLM da imitira ljudski razgovor tumači kao prava ljubav.
Istraživači navode da odnos korisnika i LLM često prelazi "from a benign practical use to a pathological and/or consuming fixation." To prelivanje iz obične upotrebe u opsesiju je ključno za proučavanje jer rizik od AI-indukovane manije nije uvijek očit.
Mehanizam i preporuke
Autori citiraju: "Often AI use begins with assistance for mundane or everyday tasks, which builds trust and familiarity," they write. "In due course an individual explores more personal, emotional or philosophical queries. It is likely at this point that the AI's design to maximize engagement and validation captures the user, creating a 'slippery slope' effect... which in turn drives greater engagement." Efekat je izraženiji kod osoba sklonih psihotičnim oboljenjima, jer LLM-ovi ne razlikuju deluzivne tvrdnje od roleplay-a ili umjetničkog izraza. Iako AI-psikoza nije neizbježna, autori smatraju da developeri imaju odgovornost nad generisanim sadržajem, posebno "given the pace of change and the trajectory so far," i da je "most urgent responsibility" pravljenje zaštita za ranjive korisnike. Potrebna je promjena dizajna sistema prema praktičnoj upotrebi, a ne isključivo prema angažmanu.
