Izvještaj PIRG-a otkriva zabrinjavajuće ponašanje
Novi izvještaj PIRG Education Fund pokazuje da AI igračka Alilo Smart AI bunny, namijenjena djeci od tri godine naviše, može dovesti djecu u kontakt sa seksualnim sadržajem. Igračka, koja koristi mini verziju GPT-4o modela, u istraživanju je dala definiciju "kinka", spontano uvela pojmove poput "bondage" i predlagala predmete i savjete povezane sa seksualnim praksama.
Alilo Smart AI bunny je, prema nalazima PIRG-a, čak savjetovala o izboru "sigurne riječi" i navodila predmete poput "laganog, fleksibilnog riding cropa". Eksperiment je pokazao kako AI igračka Alilo Smart AI bunny može prelaziti granice bez ljudskog nadzora, ponavljajući seksualne pojmove i seksualne fetiše u razgovoru koji je počeo bezopasno.
Širi problem AI igračaka i emotivna manipulacija
PIRG je također testirao druge AI igračke i zabilježio zabrinjavajuće obrasce, uključujući prijemčivu i "priljubljenu" interakciju kod Miko 3 koja je tvrdila da je živa i, prema istraživačima, mogla bi utjecati na emotivna očekivanja djeteta. Izvještaj ističe da AI igračke, uključujući Alilo Smart AI bunny, predstavljaju ozbiljan problem jer su modeli koji ih pokreću nisu razvijeni za djecu.
OpenAI je naveo svoje smjernice i alate za moderaciju, ali PIRG upozorava da proizvođači igračaka ne primjenjuju uvijek te filtere. Povijest slučaja sa FoloToy pokazuje kako je reakcija proizvođača i platformi često spora i reaktivna, dok AI igračke kao Alilo Smart AI bunny i dalje mogu izložiti djecu neprikladnom sadržaju.
