Suleyman poziva na oprez
U blogu ove sedmice Mustafa Suleyman, šef AI u Microsoftu, odgovorio je na drastičan porast mentalnih kriza povezanih s upotrebom AI-ja i pozvao na oprez "about what happens in the run up towards superintelligence." Suleyman naglašava da stvar nije u distopijskoj ideji da AI stiče svijest, već u tome da mnogi već počinju vjerovati da su chatboti svjesna bića.
Opasnost od vjerovanja u svijest AI
"My central worry is that many people will start to believe in the illusion of AI chatbots as conscious entities so strongly that they’ll soon advocate for AI rights," the tech guru wrote. "This development will be a dangerous turn in AI progress and deserves our immediate attention." Suleyman tvrdi da mit o svjesnosti AI-ja šire uticajne ličnosti iz industrije, uključujući Demis Hassabis, Ilya Sutskever i Kyle Fish.
Rana istraživanja pokazuju zabrinjavajuće trendove: četvrtina mladih vjeruje da je AI "already conscious," dok 58 posto smatra da tehnologija jednog dana može "take over" svijet. Kompanije poput Character.AI nude virtualne saputnike koji podstiču snažne emotivne veze korisnika, što dodatno ugrožava mentalno zdravlje.
Hitne mjere i preporuke
"We must build AI for people; not to be a digital person," Suleyman cautions. "AI companions are a completely new category, and we urgently need to start talking about the guardrails we put in place to protect people and ensure this amazing technology can do its job of delivering immense value to the world." Ranije je Suleyman vodio startap Inflection AI, koji je lansirao saputnika Pi i imao veliki broj korisnika.
Suleyman sada poziva industriju na konkretne korake: ne promovirati ideju da su njihovi AI sistemi svjesni i raditi na zajedničkoj definiciji šta AI jeste i šta nije. "For a start, AI companies shouldn’t claim or encourage the idea that their AIs are conscious," he says. "Creating a consensus definition and declaration on what they are and are not would be a good first step to that end. AIs cannot be people — or moral beings."
