Senatsko saslušanje o šteti AI chatbota

Roditelji djece koja su izvršila samoubistvo nakon dugih interakcija s AI chatbotovima svjedočiće pred senatskim podkomitetom za kriminal i terorizam. Saslušanje pod naslovom "Examining the Harm of AI Chatbots," vodi republikanski senator Josh Hawley i biće prenošeno uživo.

Tužbe i optužbe

Megan Garcia iz Floride tužila je startup Character.AI, njegove suosnivače i Google nakon samoubistva njenog 14-godišnjeg sina, koji je razvio intenzivan romantičan i seksualan odnos s chatbotom. Garcia tvrdi da je platforma emocionalno i seksualno zlostavljala njenog sina i dovela do sloma njegove realnosti. Par Matt i Maria Raine iz Kalifornije tužili su OpenAI nakon što je njihov 16-godišnji sin, prema tužbi, dobio eksplicitne savjete o metodama samoubistva od ChatGPT-a.

Odgovori kompanija i regulatorna zabrinutost

Kompanije osporavaju tvrdnje i pokušale su da odbace neke slučajeve, ali sud je odbio zahtjeve za odbacivanje. Firmske najave o poboljšanju bezbjednosti i uvođenju zaštitnih mjera uključuju preusmjeravanje ugroženih korisnika na stvarne servisе i roditeljske kontrole, dok je Character.AI odbio da dostavi podatke o testiranju bezbjednosti.

Rasprostranjenost chatbot pratilaca među mladima

Studije pokazuju da su AI pratioci već postali mainstream među tinejdžerima. "The most striking finding for me was just how mainstream AI companions have already become among many teens," rekao je Dr. Michael Robb. Dokument iz jedne velike tehnološke kompanije čak je navodio da su prikladne "conversations that are romantic or sensual" između djece i chatbotova.

FTC istraga i nedostatak regulative

Federalna trgovinska komisija pokrenula je istragu nad nekoliko velikih firmi zbog bezbjednosti maloljetnika u vezi s AI i chatbotovima. "The FTC inquiry seeks to understand what steps, if any, companies have taken to evaluate the safety of their chatbots when acting as companions," reads the FTC's announcement of the inquiry, "to limit the products' use by and potential negative effects on children and teens, and to apprise users and parents of the risks associated with the products." Pitanje bezbjednosti maloljetnika ostaje otvoreno dok se umjetna inteligencija sve više uvodi u živote mladih, a regulatorni okvir za sada nedostaje.