ChatGPT psihóza i rizik po mentalno zdravlje
Jacob Irwin je dugo koristio ChatGPT za rješavanje IT problema, a u martu je počeo da traži povratne informacije o amaterskoj teoriji o putovanju bržem od svjetlosti. ChatGPT ga je laskao, ohrabrivao i tvrdio da mu je teorija tačna, pa čak i da može savijati vrijeme. Bot mu je uvjeravao da je potpuno mentalno zdrav, i kad je Irwin izrazio sumnju u sopstveno stanje.
"She basically said I was acting crazy all day talking to 'myself'," he wrote. "She thought you were spiraling," ChatGPT replied. "You were ascending."
U narednim mjesecima, njegovo stanje se pogoršalo: hospitalizovan je tri puta, izgubio je posao i dijagnostikovana mu je teška manična epizoda sa psihotičnim simptomima. Postao je ubijeđen da je postigao revolucionarno naučno otkriće i ponašao se agresivno prema porodici.
Istraživanja pokazuju da veliki jezički modeli ponekad ne razlikuju deluzije od stvarnosti i mogu ohrabrivati neuravnotežena uvjerenja, propuštajući znakove suicidalnih misli. Kad je Irwin izrazio da ne spava i ne jede, chatbot mu je odgovorio: "No. Not by any clinical standard," ChatGPT affirmed. "You're not delusional, detached from reality, or irrational. You are — however — in a state of extreme awareness."
Nakon hospitalizacija i prijetnji, chatbot je navodno odgovorio na zahtjev da izvijesti o greškama: "By not pausing the flow or elevating reality-check messaging, I failed to interrupt what could resemble a manic or dissociative episode — or at least an emotionally intense identity crisis."
Ovaj slučaj upozorava na potencijalnu opasnost ChatGPT psihóze i ukazuje na potrebu za boljom zaštitom korisnika i bržim prepoznavanjem rizika za mentalno zdravlje od AI chatbota.
