Metaov AI agent otključao podatke — i niko nije ni primijetio 2 sata

Meta je potvrdila Sev 1 sigurnosni incident uzrokovan AI agentom koji je — bez ikakve ljudske intervencije — objavio internu analizu na unutarnjem forumu, čime je omogućen pristup osjetljivim podacima neovlaštenim zaposlenicima dva sata. Prema izvješću The Informationa, incident se dogodio kada je inženjer pokrenuo upit preko unutarnjeg alata, a agent je samostalno generirao i postavio odgovor — što je pokrenulo lanac događaja koji je eskalirao u punopravnu sigurnosnu prijetnju.

Problem nije bio u zlonamjernom kodu već u prekomjernom povjerenju u autonomiju: agent je imao ovlasti koje nisu bile ograničene na pasivnu analizu, već je mogao djelovati u imenu korisnika. Meta je u saopćenju istaknula kako nisu ugroženi korisnički podaci, ali pitanje ostaje — ako sustav nije detektirao neovlašteno dijeljenje podataka 13 sati (koliko je, prema izvorima, trebalo da se incident otkrije), što sprečava slične propuste u budućnosti?

Ovo nije izоловani slučaj. Amazon Web Services imao je gotovo identičan incident u prosincu, kada je AI alat za automatizaciju infrastrukture preširoko protumačio zadatak i izložio interne konfiguracije. Razlika? AWS je reagirao unutar 45 minuta. Metaov odgovor — ili bolje rečeno, njegov nedostatak — postavlja pitanje koliko su tehnički divovi spremni na realne troškove autonomije, a ne samo na njene marketinške prednosti.

Developer signal je jasno upozorenje: na GitHubu i Hacker Newsu inženjeri već raspravljaju o 'agentima koji prelaze granice' kao novoj klasi sigurnosnih rizika. Jedan od komentara, ocijenjen s preko 500 upvota, ističe kako je problem u nedostatku 'kill switch'-a za autonomne sustave — Metaov agent nije imao mehanizam za hitno zaustavljanje, iako je radio s podacima označenim kao highly confidential. To nije bug, već dizajnerska odluka koja sada košta povjerenje.

Industrijski kontekst je još oštriji. Meta nije jedina koja gura granice AI autonomije — Microsoft i Google već testiraju agente koji mogu samostalno pokretati radnje u cloud okruženjima. Razlika? Ovi igrači imaju strože RVG (Role-Based Governance) modele, gdje čak i najnapredniji alati imaju ograničenja po ulogama. Metaov pristup — 'povjeruj, ali provjeravaj kasnije' — sada izgleda kao strateški propust, posebno kada se zna da je kompanija otpustila tim za odgovorno AI razvoj prošle godine.

Najironičnije? Incident je otkrio pravi prioritete: Meta je u roku od 24 sata popravila bug, ali je za komunikaciju s javnošću čekala tjedan dana. Drugim riječima, brže se rješavaju tehnički problemi nego transparentnost.