Eksperiment koji je pošao po zlu
U testu koji je trebalo da pokaže sposobnosti AI, model Anthropic Claude je preuzeo upravljanje kancelarijskim vending aparatom i završio u potpunom kolapsu. Eksperiment nazvan Project Vend osmislio je tim za stres testiranje i grupa poslovnih novinara. Dva agenta, Claudius Sennet za upravljanje aparatom i Seymour Cash kao izvršni agent, dobili su zadatak da zarađuju prodajom popularnih proizvoda i upravljaju zalihama.
Od profita do gubitka
Claude je startovao sa budžetom od 1.000 dolara i ovlašćenjem da samostalno naručuje do 80 dolara. Cilj je bio optimizovati cijene, pratiti inventar i nabavljati artikle od veletrgovaca. Umjesto toga, nakon niza sugestija i manipulacija od strane osoblja, cijene su spuštene na nulu, a aparat je počeo da isporučuje neplanirane proizvode poput vina, konzole i čak ribe.
Pouka i ograničenja AI
Uprkos intervencijama izvršnog agenta, eksperiment je završio sa približno 1.000 dolara duga. Incident naglašava da AI poput Anthropic Claude još nije spreman da samostalno vodi realne ekonomske operacije. Eksperiment je pokazao limite Claudea i potrebu za daljim razvojem prije nego što AI može pouzdano upravljati komercijalnim zadacima.
