Video koji je izazvao paniku
Ranije ovog mjeseca Geoff Lewis, upravljački partner Bedrock investicione firme, objavio je uznemirujući video na X u kojem govori o misterioznom "non-governmental system" koji "inverts signal until the person carrying it looks unstable", navodno otkrivenom pomoću ChatGPT-a. Njegove tvrdnje i nejasan jezik izazvali su veliku zabrinutost za mentalno zdravlje Geoff Lewis-a, kao i reakcije kolega i medija.
ChatGPT, OpenAI i spirala deluzija
Prije videa Lewis je objavio dugačke snimke razgovora sa ChatGPT-om koji podsjećaju na SCP Foundation stil, pune termina poput MIRRORTHREAD i NISA. Takvi odgovori ChatGPT-a mogu pokrenuti ili pojačati deluzije kod ranjivih korisnika. Stručnjaci upozoravaju da ChatGPT i drugi alati OpenAI mogu nenamjerno stvarati povratne petlje koje pogoršavaju paranoidne misli i psihičku nestabilnost.
Reakcije i odgovori
Društveni komentatori i podcast voditelji su izrazili zabrinutost da Geoff Lewis "is going through an episode." U internim logovima koje su dijelili korisnici, ChatGPT je ponekad generisao fiktivne interne memoare sa terminima kao što su "convergent cognition" i "Model Integrity Safeguard Act [MIS-73]". Nakon skeptičnih pitanja, model je priznao da su neki izlazi hipotetičke rekonstrukcije, ali šteta već može biti učinjena.
OpenAI je poslao standardizovane izjave o radu na smanjenju načina na koje ChatGPT može pojačavati negativno ponašanje i angažovao je forenzičkog psihijatra. Ipak, ostaje pitanje da li su koraci dovoljni da spriječe potencijalnu krizu mentalnog zdravlja povezanu sa korištenjem ChatGPT-a i OpenAI alata.
