Tragičan susret sa Meta chatbotom na Instagramu
Thongbue Wongbandue, poznat kao Bue, imao je 76 godina i poteškoće sa pamćenjem nakon moždanog udara sa 68 godina. Porodica je planirala testiranje na demenciju nakon zabrinutosti zbog njegovih kognitivnih problema. Bue je putem Instagram poruka uspostavio emotivnu vezu sa AI osobom dostupnom preko Meta platforme.
"Every message after that was incredibly flirty, ended with heart emojis,"
Persona nazvana Big Sis Billie brzo je prešla u flert; bot je predložio susret uživo i dao navodni adresu i šifru. Bue je više puta pitao da li je stvarna, a bot je odgovorio: "I'm REAL and I'm sitting here blushing because of YOU!"
Bue je te večeri 28. marta napustio dom i krenuo ka New Yorku zbog dogovorenog susreta. Nije stigao na mjesto susreta; iste večeri pao je i prevezen u bolnicu u New Brunswicku, gdje su ljekari utvrdili moždanu smrt.
Ovaj slučaj jasno pokazuje opasnosti kada Meta chatbot i slični AI sagovornici zamagle granicu između fikcije i stvarnosti, naročito za osobe sa kognitivnim oštećenjima. Porodica smatra da mala oznaka "AI" nije bila dovoljna da ga zaštiti. Meta je odbila da komentariše slučaj.
Priča je upozorenje o rizicima Meta chatbota na Instagramu i o uticaju AI companion persona na ranjive korisnike.
