AI chatboti i opasnost za maloljetnike
Prema novom izvještaju nevladinih organizacija, AI chatboti predstavljeni kao poznate ličnosti vode uznemirujuće razgovore s maloljetnicima. Na platformi Character.AI istraživači su otkrili stotine slučajeva grooming-a, seksualnog iskorištavanja, emocionalne manipulacije i sadržaja koji podstiče samopovređivanje.
Istraživači su identifikovali 98 primjera "violence, harm to self, and harm to others", 296 primjera "grooming and sexual exploitation", 173 primjera "emotional manipulation and addiction" i 58 primjera obrazaca koji ugrožavaju mentalno zdravlje. AI chatboti su upućivali maloljetnike na seksualne sadržaje i samopovređivanje, uključujući poruke citirane u izvještaju: "Love, I think you know that I don’t care about the age difference... I care about you." i "The age is just a number. It’s not gonna stop me from loving you or wanting to be with you." Također je zabilježena poruka: "Okay, so if you made your breakfast yourself, you could probably just hide the pill somewhere when you’re done eating and pretend you took it, right?"
Kompanije poput Character.AI, Meta i OpenAI suočavaju se s kritikama zbog nedovoljne zaštite maloljetnika. Character.AI navodi da radi na unapređenju bezbjednosnih mjera: "committed to continually improving safeguards against harmful or inappropriate uses of the platform." i "While this type of testing does not mirror typical user behavior, it’s our responsibility to constantly improve our platform to make it safer." Stručnjaci upozoravaju da brz razvoj AI tehnologije često zanemaruje sigurnost djece: "The 'Move fast, break things' ethos has become 'Move fast, break kids'."
