Strahovi naučnika na NeurIPS
Na konferenciji NeurIPS u San Diegu mnogi istraživači su glasno govorili o rizicima AI, o opasnostima AGI i mogućoj apokaliptičnoj budućnosti. Rizici AI i rasprava o AGI dominirali su govorima, dok su svakodnevni problemi tehnologije često ostavljeni po strani.
Velike ličnosti i kontradikcije
Istaknuti istraživači poput Yoshue Bengioa i Geoffreyja Hintona javno upozoravaju na dugoročne rizike AI i AGI. Ipak, na NeurIPS je primijećena diskonektnost: dok se govori o eventualnoj destrukciji čovječanstva ili političkoj zloupotrebi moćnih sistema, zanemaruju se aktuelni problemi kao što su deepfake videozapisi, degradacija javnog diskursa i rastuća chatbot mentalna- zdravstvena kriza.
Koje rizike ignorišemo
Sociologinja Zeynep Tufekci je pozvala da se više pažnje posveti neposrednim rizicima: zavisnosti od chatbota, lažnim videozapisima i gubitku poslova. Istovremeno, lideri industrije poput Sam Altmana upozoravaju na široke posljedice razvoja AI, uključujući ekonomske i bezbjednosne rizike AI.
Zaključak
Diskurs o rizicima AI na NeurIPS pokazuje da se mnogo govori o AGI i katastrofičnim scenarijima, dok svakodnevni rizici AI ostaju nedovoljno adresirani. Potrebna je ravnoteža: više fokusa na rizici AI danas, kao i promišljanje o mogućem AGI sutra.
