Sustavi AI agenata kopiraju loš menadžment

Istraživanje Jeremyja McEntirea otkriva kako agentne AI strukture repliciraju ljudske organizacijske mane, pa čak s većom dosljednošću. Čak i najjednostavnije zadaće postaju gotovo nerješive kad ih preuzmu hijerarhijski ili cjevovodni agenti.

Prema podacima, samo jedan samostalni agent rješava 100% testnih zadataka, dok ih cijeli 'tim' slijednih agenata ne uspijeva riješiti nijedan. Ovaj efekt uočen je u izvješću 'The Organizational Physics of Multi-Agent AI' koje je proučavalo četiri pristupa obradi zadataka na 28 programerskih problema.

McEntireov eksperiment pokazuje da se efikasnost urušava proporcionalno složenosti arhitekture. Hijerarhijski agenti postižu 64% uspješnosti, stigmerički 32%, a cjevovodni uopće ne dolaze do rješenja.

Rezultat nije slučajnost – podaci sugeriraju da su ove strukture direktno nasljeđivale loše obrasce iz ljudskih institucija, koji su ugrađeni u AI kroz poduke i dizajn. Čak ni uklanjanje ljudskih faktora ne sprječava ove obrasce, što dovodi do zaključka da se sistemske greške prenose kao digitalni DNK.

Jedan od najzanimljivijih nalaza je kako se loše odluke umnožavaju u grupama agenata. Čak i kad bi jedan agent mogao savršeno riješiti zadatak, formiranje 'komiteta' smanjuje performanse za 8-38% zbog neravnoteže između stručnjaka i slabijih članova.

Posljedice ovih otkrića su dalekosežne, posebno u visokokompleksnim okruženjima kao što su proizvodnja lijekova ili robotika. Izvještaj upozorava da multi-agent AI sistemi imaju tendenciju optimiziranja prema internalnim procesima umjesto krajnjim rezultatima, što može ugroziti kvalitetu u kritičnim aplikacijama.

Primjerice, u biotehnološkom sektoru gdje se AI koristi za optimizaciju bioprocesa, loše koordinirane hijerarhije agenata mogu rezultirati većim troškovima i nižom učinkovitošću. Industrijski igrači već reagiraju na ove nalaze.

Kompanije poput Wander, za koju McEntire radi, istražuju alternativne arhitekture kako bi izbjegle ove kolapsne scenarije. Community pak reagira mješovito – dok neki vide ovo kao priliku za stvaranje nove generacije agenata, drugi smatraju da su problemi samo još jedan dokaz kako AI nije rješenje za sve loše organizacijske navike.

Članci poput ovoga na GEN News-u dodatno potiču rasprave o odgovornom dizajnu AI sustava. Za developere ovo znači da testiranje realnim workloadovima postaje kritično, a ne samo benchmarkovi koji operu u idealiziranim uvjetima.

Naš savjet? Prije nego što investirate u multi-agent AI, osigurajte da vaši agenti ne završavaju kao digitalni ekvivalent improviziranog odjela s previše nadređenih i nikakvog odgovora.

Na kraju, otkrića iz ovog istraživanja trebaju poslužiti kao upozorenje za sve koji razvijaju i koriste AI tehnologije. Potrebno je preuzeti odgovornost za dizajn i implementaciju AI sustava i razviti strategije za izbjegavanje loših obrasca iz ljudskih institucija. Također, potrebno je educirati javnost o potencijalnim rizicima i ograničenjima AI tehnologija i razviti nove standarde i smjernice za dizajn i implementaciju AI sustava.