AI agenti kuhaju nule: Tko će kontrolirati nove ranjivosti

Thomas Ptacek, poznati sigurnosni istraživač, u članku Vulnerability Research Is Cooked tvrdi da će frontier modeli u roku od nekoliko mjeseci temeljito promijeniti način na koji se otkrivaju i iskorištavaju ranjivosti u softveru. Njegova prognoza nije samo optimistička spekulacija – već se temelji na činjenici da su kodirajući agenti već danas u stanju analizirati cijele izvorne kodove i pronaći kritične propuste uz jednostavnu naredbu poput „find me zero days“.

Ptacekov članak objavljen je na Simon Willisonovom blogu, gdje je odmah izazvao reakcije – tag ai-security-research već ima 11 objava. Ono što Ptacek opisuje nije postupna evolucija, već skokovita promjena – „step function“ – u kojoj će se napredak frontier modela odigrati brže nego što su stručnjaci očekivali.

To nije samo pitanje brzine, već i pristupačnosti: ako ai agenti mogu zamijeniti tjedne ili mjesece ručnog istraživanja, tko će kontrolirati te alate? Sigurnosne tvrtke, države, ili pojedinačni hakeri?

Istraživanje ranjivosti tradicionalno je zahtijevalo duboko tehničko znanje, ali automatizacija mijenja pravila igre. Ipak, postoji jaz između demonstracija i stvarne primjene.

Dok su benchmark testovi obećavajući, realni scenariji često otkrivaju ograničenja – npr. lažno pozitivne rezultate ili nemogućnost razumijevanja konteksta koda. GitHubov Copilot već pomaže programerima, ali otkrivanje nula-dana zahtijeva daleko sofisticiraniju analizu.

Ptacekova analiza naglašava da će se ekonomija exploit razvoja drastično promijeniti. Danas su nule-dani vrijedna roba, često prodavana na crnom tržištu ili državama.

Ako ai agenti mogu masovno otkrivati ranjivosti, cijena tih informacija mogla bi se srušiti – ili, još gore, koncentrirati u rukama onih koji kontroliraju najmoćnije modele. Microsoftov Security Copilot primjer je kako korporacije već integriraju ai u sigurnosne alate, ali otvoreno pitanje je tko će imati pristup najnaprednijim verzijama.

Razvojna zajednica reagira s mješavinom uzbuđenja i skepse. Dok neki programeri vide priliku za brže otkrivanje propusta, drugi upozoravaju na rizik da će ai generirati lažne alarme ili propustiti kritične scenarije.

Hacker News rasprava o Ptacekovom članku pokazuje kako se stručnjaci slažu oko jedne stvari: promjena je neizbježna, ali njezini učinci ovise o tome tko će kontrolirati nove alate. Najveći izazov možda nije tehnička izvedivost, već etička i regulatorna pitanja.

Ako ai agenti mogu pronaći ranjivosti, mogu li ih i iskoristiti? Hoće li države i korporacije monopolizirati te alate, ili će oni postati dostupni svima – uključujući kriminalce?

Ptacek ne nudi odgovore, ali jasno signalizira: igra se mijenja, i to brže nego što smo mislili.

Kao rezultat toga, potrebno je hitno razviti nove standarde i regulacije za korištenje ai-a u sigurnosnim istraživanjima. To će zahtijevati suradnju između vlada, korporacija i razvojne zajednice. Bez adekvatnih mjera, rizik je da će ai biti iskorišten za štetne svrhe, što bi moglo imati teške posljedice za sigurnost naših informacijskih sistema.