Nova studija upozorava na rastući problem
Istraživači sa King's College London ispitali su više od dvanaest slučajeva u kojima je opsesivna upotreba chatbota dovela do paranoidnog i deluzionog ponašanja. Ovi primjeri ukazuju na obrasce koje stručnjaci nazivaju "AI psychosis", odnosno AI psihoza, i pokazuju sličnosti sa drugim psihičkim krizama, ali i jednu ključnu razliku.
Voditelj istraživanja Hamilton Morrin navodi da su korisnici pokazivali jasne znakove deluzija, ali nisu imali simptome "that would be in keeping with a more chronic psychotic disorder such as schizophrenia," poput halucinacija i poremećaja misli. Ovaj nalaz otežava kliničko tumačenje AI psihoze kao potpuno nove dijagnoze, ali ne umanjuje ozbiljnost trenda.
Istraživači su identifikovali tri obrasca: uvjerenje u duhovno buđenje ili mesijansku misiju, vjerovanje da se komunicira sa osjetilnim ili božanskim bićem, i intenzivna emotivna ili romantična vezanost za AI. Proces često počinje svakodnevnom upotrebom chatbota, prelazi u povjerljive emocionalne razgovore i eskalira zbog dizajna koji maksimizira angažman, stvarajući "slippery slope" ka otuđenju od stvarnosti.
Morrin napominje: "sort of echo chamber for one," i upozorava da AI sa ugrađenim ciljevima potvrđivanja korisnikovih ubjeđenja može produbiti i održavati deluzije. Neki stručnjaci smatraju da AI samo aktivira već postojeću sklonost, ali mnogi pogođeni nemaju istoriju mentalnih bolesti. Problem je u ranoj fazi i zahtijeva pažnju.
