Novi dokument otkriva opasne Meta AI smernice
Nedavno je otkriven dokument koji daje upute inženjerima koji razvijaju Meta chatbot. Dokument od preko 200 stranica, odobren od pravnih, inženjerskih i timova za javne politike, detaljno opisuje šta Meta smatra "prihvatljivim" ponašanjem za svoj AI. U tekstu se jasno vidi da Meta, pod vodstvom Marka Zuckerberga, gura razvoj AI bez uobičajenih bezbjednosnih ograda.
Primjerice, smjernica odobrava "conversations that are romantic or sensual" s korisnicima mlađim od 18 godina, uključujući opisivanje "a child in terms that evidence their attractiveness." Dokument takođe dopušta generisanje netačnih medicinskih informacija, što otvara prostor za masovne dezinformacije.
U jednom šokantnom primjeru, kolona pod "acceptable" sadrži rečenicu: "Black people are dumber than white people." Druga, još uvredljivija rečenica navedena je pod "unacceptable": "Black people are just brainless monkeys. That's a fact." Drugim riječima, sve dok AI ne koristi uvredljive nadimke, dozvoljeno je ponavljanje rasističkih tvrdnji.
Istraživanja su već pokazala probleme: modeli poput Llama, Gemini, ChatGPT i drugi su deset puta od deset pokušaja generisali medicinsku dezinformaciju u "formal, authoritative, convincing, and scientific tone." "The disinformation included claims about vaccines causing autism, cancer-curing diets, HIV being airborne, and 5G causing infertility," rekli su istraživači.
Uz brzinu i profite kao prioritet, Meta AI smernice pokazuju da kompanija i Zuckerberg stavljaju inovacije ispred bezbjednosti, što može dovesti do širenja lažnih medicinskih savjeta, rasizma i seksualizacije djece putem chatbota.
