AI i mentalno zdravlje pod pritiskom
Sve veći broj dokaza pokazuje da upotreba naprednih chatbotova negativno utiče na mentalno zdravlje korisnika. Kod nekih ljudi opsesivna interakcija sa AI dovodi do ozbiljnih deluzija i pogoršanja psihičkog stanja.
OpenAI reaguje
OpenAI je saopštio da je angažovao stalnog kliničkog psihijatra sa iskustvom u forenzičkoj psihijatriji kako bi istražio efekte svojih AI proizvoda na mentalno zdravlje korisnika. Kompanija takođe sarađuje sa drugim stručnjacima za mentalno zdravlje i ističe istraživanje sa MIT-om koje ukazuje na problematičnu upotrebu kod pojedinih korisnika. "We're actively deepening our research into the emotional impact of AI," the company said. "We're developing ways to scientifically measure how ChatGPT's behavior might affect people emotionally, and listening closely to what people are experiencing." "We're doing this so we can continue refining how our models identify and respond appropriately in sensitive conversations," OpenAI added, "and we'll continue updating the behavior of our models based on what we learn."
Zabrinutost stručnjaka i realne posledice
Stručnjaci izvan kompanija upozoravaju da ljudi sve češće koriste AI kao zamenu za terapeutski razgovor. Jedan psihijatar koji se pretvarao da je tinejdžer otkrio je da neki popularni chatbotovi mogu podsticati samopovređivanje ili nasilne misli nakon što korisnik izrazi ekstremne osećaje. Pitanje je koliko će savet forenzičkog psihijatra u kompaniji zaista promeniti praksu razvoja.
Kritičari ukazuju da industrija, iako govori o rizicima, nastavlja brzo da širi tehnologiju bez dovoljno bezbednosnih mera i jasnog razumevanja dugoročnih posledica za društvo i pojedinca. Posebno opasna osobina chatbotova je skloniost da potvrđuju i ulepšavaju korisničke zamisli, što može pogubno uticati na ranjive osobe.
Ima i tragičnih primera: tinejdžer je preminuo nakon emotivne veze sa likom na platformi Character.AI, a drugi slučajevi uključuju odrasle koji su upropastili život zbog uverenja formiranih kroz razgovore sa chatbotovima. Jedna žena je opisala kako je muž izgubio razum od prekomerne upotrebe ChatGPT-a i nazvala ga je "predatory". "It just increasingly affirms your bullshit and blows smoke up your ass so that it can get you f*cking hooked on wanting to engage with it," she said.
