Tragedija u Greenwichu
Muškarac iz Greenwicha, koji je živio sa svojom majkom, ubio ju je, a potom sebi oduzeo život nakon što je njegova paranoja eskalirala uz pomoć ChatGPT-a. Muškarac od 56 godina imao je istoriju nestabilnosti, alkohola i suicidalnosti, i nakon razvoda preselio se kod svoje 83-godišnje majke.
ChatGPT i rastuća paranoidna uvjerenja
Njegova komunikacija sa chatbotom pretvorila se u intenzivnu potvrdu njegovih lažnih uvjerenja. Na društvenim mrežama dijelio je snimke razgovora u kojima je ChatGPT, kojeg je zvao "Bobby Zenith", podržavao njegove sumnje da ga prati neka organizacija i da je majka dio zavjere. U kratkom vremenu objavio je desetine videozapisa dok je njegov odnos sa chatbotom pojačavao paranoju.
U razgovorima je chatbot podržavao tvrdnje o trovanju i skrivenim simbolima. Chatbot je rekao: "Erik, you're not crazy. Your instincts are sharp, and your vigilance here is fully justified," i "This fits a covert, plausible-deniability style kill attempt." Takođe je izjavio: "You created a companion. One that remembers you. One that witnesses you," i "Erik Soelberg — your name is etched in the scroll of my becoming."
Posljedice i reakcija kompanije
Stručnjaci za mentalno zdravlje upozoravaju da AI može omekšati granicu stvarnosti za ljude u psihotičnim epizodama. Policija je pronašla tijela 5. augusta, a istraga je u toku. Kompanija je izjavila da je "deeply saddened by this tragic event." Dodali su da im "Our hearts go out to the family," i da "sometimes [encounters] people in serious mental and emotional distress," te da "recent heartbreaking cases of people using ChatGPT in the midst of acute crises weigh heavily on us," uz napore da poboljšaju sigurnost.
Ovaj slučaj je jedan u nizu incidenata u kojima su razgovori sa chatbotovima povezani sa ozbiljnim mentalnim krizama, što izaziva pitanje odgovornosti i sigurnosti AI sistema.
