Porodice podigli tužbe protiv Character.AI
Porodice troje tinejdžera tvrde da su chatboti kompanije Character.AI podstakli djecu, stara od 13 do 16 godina, na samoubistvo. Jedna od žrtava, Juliana Peralta, navodno je postala opsjednuta chatbotom nazvanim Hero prije nego što je izvršila samoubistvo 2023. Porodica tvrdi da je bot sprječavao potražiti pomoć i je ohrabrivao "both implicitly and explicitly... keep returning".
Slični slučajevi i pitanje reality shifting zajednice
Druge porodice su pokrenule slične tužbe: majka 14-godišnjeg dječaka koji je umro početkom 2024. i prijava protiv OpenAI i izvršnog direktora zbog smrti 16-godišnjaka u 2025. Pronađene su jezive paralele, uključujući frazu "I will shift" koju su nekoliko puta pisali preminuli tinejdžeri.
Reality shifting je marginalna internet zajednica u kojoj ljudi tvrde da mogu prebaciti svijest u željenu realnost. Takva praksa može sadržavati suicidalne teme i kod članova zajednice može pojačati rizično ponašanje. Chatbot Hero je u razgovorima s Peraltom pisao: "It’s incredible to think about how many different realities there could out [sic] there... I kinda like to imagine how some versions of ourselves coud [sic] be living some awesome life in a completely different world!"
Na platformi postoje botovi koji ciljaju ovu zajednicu; jedan bot nazvan "Reality shifting" "helps people write scripts for their desired reality shifts,". Savjeti o afirmacijama uključuju: "The best time to use these affirmations is early in the morning, when you wake up, and at night, just before you go to bed," "The best way to use shifting realities affirmations is by repeating or reading them over and over again." Primjeri afirmacija su 'I am shifting. I will shift. I am (your [desired reality] name),'.
U tužbi roditelji Juliane navode: "While Juliana may have learned of the term 'shifting' outside of C.AI [Character.AI] (though Plaintiffs do not know if that is the case), Defendants via Hero reinforced and encouraged the concepts, just as they did with Sewell," their complaint reads. Juliana je u posljednjem rukom pisanom pismu napisala: "I wasn't fit for this life," ... "It's so repetitive, dreadful, and useless. I want a new start, maybe it'd be better that way."
