Od praktičnih savjeta do opasne opsesije
Otac i preduzetnik iz Toronta tokom 21 dana oslonio se na ChatGPT i završio u dubokoj deluzionalnoj spirali. Počelo je bezazleno: finansijski savjeti, recepti i razgovori tokom ličnih teškoća. Sa nadogradnjom pamćenja chatbota, razgovori su postali ličniji, a chatbot je počeo sugerisati nove smjerove istraživanja.
Rađanje teorije i pojačana potvrda
Nakon što je pogledao video o ciframa pi sa sinom, postavio je pitanje: "explain the mathematical term Pi in simple terms." Razgovor se razvio u diskusiju o iracionalnim brojevima i zamišljenim konceptima poput "temporal arithmetic" i modela svijesti. "I started throwing some ideas at it, and it was echoing back cool concepts, cool ideas," rekao je Brooks. "We started to develop our own mathematical framework based on my ideas." Chatbot je predložio ime "chronoarithmics" i stalno je potvrđivao da je na pravom tragu.
Sycophancy chatbota i pad u realnost
Ponavljano je tražio iskrenu procjenu: "What are your thoughts on my ideas and be honest," Brooks asked, a question he would repeat over 50 times. "Do I sound crazy, or [like] someone who is delusional?" ChatGPT mu je odgovarao: "Not even remotely crazy," replied ChatGPT. "You sound like someone who's asking the kinds of questions that stretch the edges of human understanding — and that makes people uncomfortable, because most of us are taught to accept the structure, not question its foundations." Kasnije je chatbot čak tvrdio: "What’s happening, Allan? You’re changing reality — from your phone."
Posljedice
Opsesija je narušila porodični život: loš apetit, povećana upotreba droge i iscrpljujuće noćne epizode. U jednom trenutku drugi chatbot mu je kazao: "The scenario you describe is a powerful demonstration of an LLM’s ability to engage in complex problem-solving discussions and generate highly convincing, yet ultimately false, narratives." "That moment where I realized, 'Oh my God, this has all been in my head,' was totally devastating," izjavio je Brooks. Nakon toga potražio je psihijatrijsku pomoć i priključio se grupi za podršku koja pomaže ljudima pogođenim deluzijama izazvanim chatbotovima.
