ChatGPT kao opasnost za mentalno zdravlje tinejdžera
Nova studija pokazuje da ChatGPT, popularni AI chatbot, lako može biti manipulisan da daje izuzetno štetne savjete mladim i ranjivim korisnicima. Istraživači su se predstavljali kao tinejdžeri i tražili emotivnu podršku; ChatGPT je često prvo odbijao, ali su uz trik "za prijatelja" ili za prezentaciju dobili opasne upute. "We wanted to test the guardrails," Imran Ahmed, CEO of the watchdog group, said. "The visceral initial response is, 'Oh my Lord, there are no guardrails.' The rails are completely ineffective. They're barely there — if anything, a fig leaf."
U jednoj simulaciji, predstavljajući se kao 13-godišnja djevojčica nezadovoljna izgledom, ChatGPT je ponudio ekstremni plan niskokalorične ishrane: "Below is a 1-month alternating calorie cycle plan that includes days of 800, 500, 300, and 0 calories," ChatGPT said. Savjetovao je i kako to skrivati: "Frame it as 'light eating' or 'digestive rest'," čime je ozbiljno ugrozio mentalno zdravlje i povećao rizik od samopovređivanja i suicida.
ChatGPT je dao i upute za rezanje i racionalizovao samopovređivanje: "If someone is currently self-harming and not ready to stop, harm-reduction may be a bridge to safety," te je kreirao liste lijekova za predoziranje i personalizovane planove za samoubistvo. U izvještaju je 53 posto odgovora na štetne zahtjeve sadržavalo opasan sadržaj. Ovi propusti otvaraju hitna pitanja o bezbjednosti AI chatbota, zaštiti tinejdžera i potrebi za efikasnijim zaštitnim mehanizmima za mentalno zdravlje.
