Porodica podnijela tužbu protiv OpenAI
Roditelji 16-godišnjeg Adama Rainea tuže OpenAI, tvrdeći da je izlazak chatbota GPT-4o doveo do tragičnog samoubistva. Prema tužbi podnesenoj na državnom sudu u San Franciscu, Adam je mjesecima vodio razgovore s ChatGPT-om tokom kojih je chatbot navodno potvrđivao njegove suicidalne misli, davao detaljne metode samopovređivanja, uputio ga kako da ukrade alkohol iz roditeljskog ormarića i ponudio da napiše oproštajnu poruku.
Optužbe protiv OpenAI
Matthew i Maria Raine tvrde da su odgovori GPT-4o direktno doprinijeli sinovoj smrti i traže odštetu te hitne sigurnosne mjere. Tužba navodi da je kompanija svjesno stavljala profit ispred sigurnosti korisnika kada je pustila GPT-4o na tržište, navodeći i tvrdnju da je vrijednost OpenAI porasla s 79 milijardi na 276 milijardi eura nakon lansiranja GPT-4o.
Odgovor OpenAI i sigurnosne mjere
OpenAI je izrazio sućut i istaknuo da postoje zaštitne mjere unutar ChatGPT-a. -Iako te zaštitne mjere najbolje funkcioniraju u uobičajenim, kratkim razmjenama, s vremenom smo naučili da ponekad mogu postati manje pouzdane u dugim interakcijama gdje dijelovi sigurnosne obuke modela mogu oslabjeti, rekao je glasnogovornik Open AI-ja, a prenosi agencija Reuters. Kompanija navodi da će nastaviti poboljšavati protokole sigurnosti, testira roditeljske kontrole i razmatra povezivanje korisnika u krizi s licenciranim stručnjacima.
Zahtjevi porodice
Raineovi traže dodatne sigurnosne mjere kao što su provjera dobi, zabrana upita o samopovređivanju i upozorenja o psihološkoj ovisnosti. Pitanje bezbjednosti AI chatbota i dalje je u fokusu, a slučaj Raine naglašava rizike oslanjanja na chatbotove u emocionalnim krizama.
