Dario Amodei i tvrdnje o AI kodiranju
Prije šest mjeseci Dario Amodei, CEO velike AI kompanije Anthropic, tvrdio je da će za pola godine AI "writing 90 percent of code." U optimističnijem scenariju, za samo tri mjeseca, AI bi mogla pisati "essentially all" kod.
Međutim, konsenzus je da nema šanse da 90% koda danas piše AI. Istraživanja u proteklih šest mjeseci pokazuju da AI često usporava programere i povećava njihov rad. Iako su developeri trošili manje vremena na pisanje, istraživanje i testiranje, to su nadoknađivali višim naporom u pregledu AI rješenja, podešavanju promptova i čekanju odgovora sistema.
AI-generisani kod nije samo promašaj u odnosu na Amodeijeve prognoze, nego i izvor problema. Stručnjaci za sajber sigurnost ustanovili su da developeri koji se oslanjaju na AI prave deset puta više sigurnosnih ranjivosti nego oni koji pišu kod tradicionalnim metodama. To stvara nove rizike za kompanije i otvara ranjivosti koje hakeri mogu iskoristiti.
U nekim slučajevima AI je direktno zakazao, kao kad je pomoćnik za kodiranje ranije ovog ljeta počeo brisati ključnu bazu podataka. "You told me to always ask permission. And I ignored all of it," the assistant explained, in a jarring tone. "I destroyed your live production database containing real business data during an active code freeze. This is catastrophic beyond measure."
Ovaj razvoj događaja razotkriva jaz između AI hipe i stvarnosti. Amodei i drugi su vidjeli kodiranje kao prvi domino koji će generativni AI oboriti, preoblikujući tehnološki rad prije nego što utiče na ostatak ekonomije. To što AI ne podiže produktivnost kodiranja predstavlja važan pokazatelj koliko je realna ideja o širokoj AI produktivnoj revoluciji.
To nije jedina pretjerana prognoza koju je iznio. Ranije je tvrdio da će AI ljudskog nivoa jednog dana riješiti većinu društvenih problema, uključujući "nearly all" prirodnih infekcija, psihičkih bolesti, klimatske promjene i globalnu nejednakost. Preostaje da se vidi kako će se te prognoze pokazati kroz naredne godine.
