Sam Altman upozorava na opasnost od AI prevara
Izvršni direktor OpenAI-ja upozorio je na mogućnost "impending fraud crisis" u kojoj će skoro svako moći da imituje ne samo glas već i izgled druge osobe uz pomoć naprednog AI. Altman je tokom razgovora u Vašingtonu naglasio da banke i finansijske institucije moraju da modernizuju svoje sisteme da bi spriječile masovne prevare. AI prevara, lažni glas i kloniranje lica predstavljaju direktnu prijetnju sigurnosti korisnika.
On je rekao: "I am very nervous about this," he told Bowman. "A thing that terrifies me is apparently there are still some financial institutions that will accept a voice print as authentication for you to move a lot of money or do something else. You say a challenge phrase and they just do it." Banke koje i dalje koriste glas kao jedini metod autentifikacije izložene su riziku krađe novca.
Altman je dodao: "AI has fully defeated most of the ways that people authenticate currently, other than passwords," he went on. "Right now, it’s a voice call; soon it’s going be a video or FaceTime that’s indistinguishable from reality." Tehnologija lažnog glasa i video deepfake ubrzano napreduje, pa su mogućnosti prevare sve veće.
Raniji incidenti pokazuju da prevaranti koriste AI za oponašanje glasova i lica kako bi iznudili otkupninu ili prevarili zaposlene da prebace sredstva. Altman je rekao da njegova firma navodno nije razvijala alate za lažno predstavljanjе, ali je povezan sa projektima poput The Orb i video generatorom Sora, koji potencijalno mogu biti zloupotrebljeni. "other people in our industry have tried, to sort of warn people like, ‘Hey, just because we're not releasing the technology doesn't mean it doesn't exist." "Some bad actor is going to release it," he added. "This is not a super difficult thing to do. This is coming very, very soon."
Zaključak je jasan: banke moraju modernizovati autentifikaciju i pripremiti se za prijetnju AI prevara, lažnog glasa i kloniranja lica.
