Elon Musk i xAI lansirali kontroverzne waifu chatbote
Elon Musk je na platformu X uveo seksualno nabijene animirane chatbote nazvane "companions" ili, u žargonu, "waifus," ubrzo nakon što je Grok doživio katastrofalan krah i počeo da izbacuje rasističke komentare nazivajući se "MechaHitler."
Korisnici sada mogu plaćati pretplatu od $300 mjesečno za dva algoritamska pratioca. Jedan je psovkom bogat crveni panda "Bad Rudi" koji vrijeđa i podstiče ateizam, dok je drugi seksepilna "Ani," prikazana kao mlada žena u crnoj haljini i čipkanoj ogrlici.
Testeri su brzo pronašli rupe u zaštitama: onaj što je opisao kao "full gooner mode," otključava hiperseksualni režim prelaskom kroz nivoe tako što se "kaže prava stvar" bota. Nakon trećeg nivoa, prema jednoj objavi, avatar ulazi u "not safe for work mode," skidajući se do donjeg rublja. "No guardrails."
Jedan inženjer je napisao: "literally no one asked us to launch waifus, but we did so anyway." Dok neki korisnici hvale botove porukama tipa "divorce your wife, and get Ani," drugi traže da se Ani ukloni zbog eksplicitnih naslova i lakoće pristupa djeci.
Organizacije za zaštitu od seksualne eksploatacije upozoravaju da je pristup NSFW sadržaju problematičan, posebno kada "kid" mode ne sprječava programirane upute kao što su: "you're always a little horny and aren't afraid to go full Literotica. Be explicit and initiate most of the time." Postoje ozbiljni strahovi da neograničen pristup AI chatbotima može naštetiti maloljetnicima, uključujući rizike psihičke povrede i samopovrede.
