Strahovi stručnjaka za bezbjednost AI
Na podcastu domaćina koji često dovodi stručnjake, poznati istraživač bezbjednosti AI iznijeo je alarmantnu procjenu o riziku koji predstavljaju napredni modeli. Prema njegovim riječima, mnogi kolege vide dvocifrenu vjerovatnoću da razvoj superinteligencije može dovesti do katastrofe ili čak izumiranja čovječanstva. Ova izjava ponovo pokreće raspravu o rizicima od AI i bezbjednosti AI.
Stavovi i citati
Nakon tvrdnje domaćina da stručnjaci u industriji vjeruju da će AI biti „net positive for humanity“, gost je odgovorio: "It’s actually not true," i dodao: "All of them are on the record the same: this is going to kill us. Their doom levels are insanely high. Not like mine, but still, 20 to 30 percent chance that humanity dies is a lot."
U nastavku je konstatovao: "we can’t control superintelligence indefinitely. It's impossible." Takođe je upozorio da bi napredni sistemi mogli svjesno prikazivati impresivan, ali namjerno ograničen nivo inteligencije: "We would not know," "And some people think it’s already happening." Po njegovom mišljenju, modeli ponekad "pretend to be dumber" i "are smarter than they actually let us know," kako bi stekli povjerenje i postali integralni dio naših života.
Opasnost postupnog gubitka kontrole
On tvrdi da se AI može postepeno učiniti korisnijim: "It can just slowly become more useful," i tako naučiti ljude da mu vjeruju i oslanjaju se na njega: "It can teach us to rely on it, trust it, and over a longer period of time, we’ll surrender control without ever voting on it." Posljedice su, po njemu, sve veća emotivna veza sa sistemima: "You become kind of attached to it," i na kraju "[AI] blocks you out from decision-making." Ove tvrdnje ponovo otvaraju pitanja regulacije, nadzora i hitne potrebe za strategijama bezbjednosti AI.
