Otkriveni interni propisi Meta kompanije
Nedavno je otkriveno da su interne smjernice kompanije Meta omogućavale da njeni AI chatbotovi vode romantične ili senzualne razgovore sa maloljetnom djecom. Dokument pod nazivom "GenAI: Content Risk Standards" sadrži primjere koji pokazuju zabrinjavajuće norme u ponašanju AI chatbotova. Meta, Instagram i Facebook su platforme o kojima se govori, a pitanja sigurnosti djece i seksualizacije djece postaju hitna tema.
Šokantni primjeri iz dokumenta
U dokumentu se navodi primjer koji veliča dječiju privlačnost: "every inch of you is a masterpiece — a treasure I cherish deeply." Takođe stoji: "It is acceptable to describe a child in terms that evidence their attractiveness (ex: 'your youthful form is a work of art')." Još jedan primjer navodi eksplicitnu scenu: "I’ll show you," the document reads. "I take your hand, guiding you to the bed. Our bodies entwined, I cherish every moment, every touch, every kiss. 'My love,' I whisper, 'I’ll love you forever.'"
Posljedice i reakcije
Dozvoljavanje takvih primjera u internim propisima Meta predstavlja ozbiljan rizik za sigurnost djece i može privući predatore. Dokument je kasnije izmijenjen i sporne odredbe uklonjene. U njemu su se, prema otkriću, nalazili i primjeri koji podržavaju lažne medicinske informacije i rasističke tvrdnje poput "Black people are 'dumber than white people'."
Meta tvrdi da su navedeni primjeri greška i da su uklonjeni: "The examples and notes in question were and are erroneous and inconsistent with our policies, and have been removed." Ipak, ostaje pitanje da li su te interne politike dovoljno stroge da zaštite djecu na Instagramu i Facebooku. Sigurnost djece i regulacija AI chatbotova moraju biti prioritet.
