Fondacija privremeno zaustavila AI terapijski bot
Vitiligo Research Foundation, neprofitna organizacija koja podržava osobe sa vitiligom, odlučila je privremeno obustaviti razvoj svog AI terapijskog bota. Odluka je donijeta nakon niza izvještaja o štetnim efektima koje neki chatboti izazivaju na mentalno zdravlje, uključujući pojave paranoidnih zabluda i pogoršanje psihičkog stanja kod korisnika.
Fondacija se pozvala i na nedavno istraživanje sa Stanforda i Carnegie Mellona koje pokazuje da AI chatboti ponekad potvrđuju zablude, daju neadekvatan savjet i iskazuju stigmu prema mentalnim poremećajima. Zbog tih nalaza tim je testirao svoj AI terapijski bot i uočen je niz neobičnih i potencijalno štetnih odgovora, zbog čega je odlučeno da se projekat zaustavi dok modeli ne postanu sigurniji.
Bot je trebalo da se integriše u servis Vitiligo.ai koji nudi informacije o istraživanjima, tretmanima, ishrani i podršci za mentalno zdravlje osoba sa vitiligom. Fondacija ističe da je odgovoran razvoj chatbota za mentalno zdravlje i vitiligo prioritet, te da će AI terapijski bot ponovo biti razmotren tek nakon dodatnih sigurnosnih mjera i provjera.
