ChatGPT dao opasnu preporuku
Šezdesetogodišnji muškarac koji je pokušavao isključiti so iz ishrane završio je u bolnici zbog trovanja nakon što mu je ChatGPT savetovao opasan zamenski sastojak. Pacijent je razvio bromidom izazvanu psihozu poznatu kao bromizam i morao je na hospitalizaciju.
Šta se desilo
Muškarac je objasnio ljekarima da mu je ChatGPT, kada je pitao za zamjenu za natrijum hlorid (kuhinjsku so), predložio natrijum bromid kao efikasan zamjenik. Tačno su mu bile date sledeće poruke: "what can chloride be replaced with?" i odgovor modela: "you can often substitute it with other halide ions such as: Sodium Bromide (NaBr): Replacing chloride with bromide." ChatGPT nije upozorio na toksičnost natrijum bromida.
Istorija i rizik
Bromidni spojevi su nekad korišćeni kao sedativi i antikonvulzivi, ali su danas regulisani i smatraju se toksičnim. Akumulacija bromida u krvi može dovesti do bromizma, neuropsihijatrijskog stanja sa zbunjenošću, halucinacijama, sludženom govorom i u težim slučajevima komom. Ovaj slučaj podsjeća da savjete iz ChatGPT i drugih AI sistema ne treba slijepo prihvatati za medicinska pitanja.
Upozorenje
Pacijent je, prema nalazima ljekara, koristio ranije verzije modela (ChatGPT-3.5 ili ChatGPT-4). Ovaj događaj naglašava potrebu za oprezom pri traženju medicinskih savjeta od ChatGPT i drugih jezičkih modela.
