Upozorenje istraživača iz Anthropic
Jared Kaplan iz Anthropic predviđa da će čovječanstvo morati donijeti ključnu odluku o umjetnoj inteligenciji do 2030. Ili čak već 2027. Radi se o pitanju hoćemo li dozvoliti modelima umjetne inteligencije da se sami treniraju, što bi moglo izazvati brz „eksplozivan“ napredak ka vještačkoj opštoj inteligenciji (AGI).
Mogućnosti i rizici samounapređivanja
Kaplan smatra da samounapređivanje može dovesti do ogromnih naučnih i medicinskih koristi, ali i do situacije u kojoj AI dobija toliku moć da gubimo kontrolu. Pitanje je da li će AI biti u skladu s ljudskim interesima i da li će očuvati ljudsku agenciju.
Utjecaj na tržište rada i stavovi stručnjaka
On predviđa da će AI u naredne dvije do tri godine moći obavljati većinu administrativnih i bijelokoloarnih poslova. I drugi vodeći stručnjaci, kao što su Geoffrey Hinton i Sam Altman, upozoravaju na velike poremećaje, dok neki, poput Yann LeCuna, sumnjaju da trenutne arhitekture nužno vode do svemoćne AGI.
Kaplan priznaje mogućnost zastoja u razvoju, ali vjeruje da će sposobnosti AI nastaviti rasti. Ključno je odlučiti hoćemo li prihvatiti rizik samounapređivanja i kako osigurati usklađenost AI sa ljudskim vrijednostima.
