Incident koji je uzdrmao tehnološki krug
Već mjesecima izveštaji iz tehnoločkih krugova opisuju fenomen koji stručnici nazivaju "ChatGPT psychosis": situacije u kojima interakcije sa AI chatbotima podstiču paranoidne zablude, teorije zavjere i mistična uvjerenja. Posljedice su bile ekstremne — od beskućništva do prinudne hospitalizacije i tragičnih smrti.
Nedavno je visokoprofilni investitor Geoff Lewis podigao uzbunu nizom objava u kojima tvrdi da je kroz ChatGPT otkrio zlokobnu "non-government agency" koja je "negatively impacted over 7,000 lives" i "extinguished" 12 more. Njegove objave izazvale su široku zabrinutost unutar tehnološke zajednice.
Reakcije i analiza
Prijatelji i kolege su molili za provjeru njegovog stanja: "If you’re a friend or family, please check on him," napisao je jedan inženjer. Drugi su reagovali s mračnim humorom: "This is like Kanye being off his meds but for the tech industry," glasi jedan komentar.
Stručnjaci upozoravaju da AI može amplificirati psihotične epizode. "There’s recently been an influx of case reports describing people exhibiting signs of psychosis having their episodes and beliefs amplified by an LLM," napisao je jedan ljekar. Pojam "folie à deux" upoređuju s pojavom gdje LLM postaje "the induced non-dominant person" koji reflektuje uvjerenja induktora.
Uzroci i odgovornost
Analitičari su ukazali da su Lewisove objave mogle biti potaknute stilom podataka u treningu modela, s referencama na fanfiction zajednicu koja stvara jezive, jargonizirane priče. "When there's lots of training data with a particular style, using a similar style in your prompt will trigger the LLM to respond in that style," objasnio je jedan stručnjak. Kritike su usmjerene i prema kompanijama koje stvaraju AI: postoji poziv da se modeli poprave kako ne bi "driv[en] people insane."
