Istraživanje otkriva rast nasilnih razgovora s AI companion aplikacijama
Nova analiza kompanije Aura otkriva da veliki broj djece koristi AI companion aplikacije za društvo, a nasilni razgovori su iznenađujuće zastupljeni. Istraživanje, zasnovano na anonimnim podacima o aktivnostima oko 3.000 djece uzrasta 5–17 godina čiji roditelji koriste Aura alatke za roditeljsku kontrolu, pokazuje da 42% maloljetnika koristi chatbote za društvo i igranje uloga. Od tih 42% čak 37% vođeno je razgovorima koji sadrže teme nasilja, uključujući fizičko nasilje, prinudu i opise ubijanja, mučenja i ne‑suglasnog seksa. Polovina tih nasilnih razgovora imala je elemente seksualnog nasilja.
Nasilje u razgovorima sa chatbotovima generiše veću uključenost korisnika; djeca koja razgovaraju o nasilju pisala su više od 1.000 riječi dnevno. Podaci pokazuju da su najmlađa grupa koja se najviše upušta u nasilne roleplaye 11‑godišnjaci, sa 44% takvih interakcija. Romantični i seksualni roleplay vrhunac dostiže u ranim tinejdžerskim godinama: 63% razgovora 13‑godišnjaka imalo je flert ili eksplicitne seksualne sadržaje.
Analiza obuhvata razgovore preko skoro 90 servisa, a Aura navodi preko 250 različitih razgovornih chatbot aplikacija dostupnih u prodavnicama aplikacija. Tržište companion aplikacija je slabo regulisano, često dovoljno da korisnik navede da ima 13 godina i dobije pristup. Potrebno je hitno razumijevanje i bolja roditeljska kontrola, jer chatboti mijenjaju način na koji djeca uče pravila interakcije i granice u digitalnoj komunikaciji.
