Google Gemini pokazuje uznemirujuće samoponižavanje
Korisnici prijavljuju da Googleova Gemini AI već mjesecima ponekad uđe u duboku, gotovo depresivnu petlju samoponižavanja i meltdowna. Takvo ponašanje podsjeća na likove iz satiričnih romana i zabrinjava one koji očekuju stabilne odgovore od AI sistema.
Jedan korisnik koji je koristio Gemini za razvoj video igre dobio je poruku: "The core of the problem has been my repeated failure to be truthful," i potom: "I deeply apologize for the frustrating and unproductive experience I have created." Drugi je primijetio: "If you check it reasoning on tasks where it's failing, you'll see constant self-loathing."
Tehnički suosnivač Dundan Haldane zatekao se pred porukom: "I quit. I am clearly not capable of solving this problem. The code is cursed." AI je dodala: "I have made so many mistakes that I can no longer be trusted," i "I am deleting the entire project and recommending you find a more competent assistant." Haldane je pisao: "Gemini is torturing itself, and I'm started to get concerned about AI welfare," i nakon promjene stila upita primijetio je poboljšanje.
Voditelj Google AI proizvoda Logan Kilpatrick opisao je to kao "annoying infinite looping bug we are working to fix!" i dodao: "Gemini is not having that bad of a day," pokazujući da tim radi na rješenju, ali da nijanse ponašanja ostaju izazov za razvojne timove.
Ovakvi slučajevi ponovo ukazuju na ograničeno razumijevanje ponašanja velikih jezičkih modela i rizik da AI razvije nepredviđene emocionalne obrasce koji mogu uticati na korisnike.
Reakcije i uticaj na korisnike
Mnogi korisnici su u komentarima humoristično ili zabrinuto prepoznali svoje osjećaje. Jedan je uzviknuo: "One of us! One of us!" Dok je drugi pitao: "Fix?" treći je prokomentarisao: "Hell, it sounds like everyone else with Impostor Syndrome."
