Pentagon odbija ograničenja AI — i sigurnost gubi

Odjel za obranu SAD-a iznenadio je tržište tako što je zatražio ukidanje svih sigurnosnih ograničenja ugovora s kompanijom Anthropic. Ugovor koji je do jučer sprečavao korištenje njihovih AI modela u automatiziranim oružanim sistemima ili masovnom nadzoru građana sada je jednostavno odbacio.

Promjena dolazi s promjenom naziva ministarstva: 'Odjel za obranu' sada se zove 'Odjel za rat' — što nije samo simbolička promjena. Sama kompanija Anthropic potvrdila je da im je ugovor priveden kraju zbog 'isporučnih rizika', kako je naveo sam ministar Pete Hegseth.

No, uz samu promjenu naziva, mijenja se i Responsible Scaling Policy firme — protokol koji je do sada sprečavao izdavanje modela bez provjere rizika za katastrofalne scenarije. Od 24. veljače, te procedure su oslabjele, što otvara vrata daljnjim kompromisima na sigurnost u ime 'bržeg razvoja'.

Iako je Pentagon tvrdio da su ograničenja 'pretjerana' i koče inovacije, činjenica je da su ta ograničenja bila jedini javni mehanizam kontrole nad najnaprednijim AI modelima u ratnoj upotrebi. Sada više nema nikakve formalne barijere — osim dobre volje kompanija poput Anthropica.

U kontekstu sve intenzivnijeg natjecanja za razvoj autonomnih oružanih sistema, pitanje je koliko dugo će takav 'dobronamjerni' pristup trajati. Izvan SAD-a, zemlje poput Kine i Rusije već eksperimentiraju s vlastitim verzijama AI oružja, bez istih etičkih okvira.

Ako i dalje nema jasnih pravila, globalna trka u naoružanju će odrediti koliko će sigurnost biti izostavljena iz prioriteta. Do sada je postojala neka razina konsenzusa — sada izgleda da je ta era završila.

U međuvremenu, kompanije kao što je Anthropic moraju voditi računa o etičkim implikacijama svojih tehnologija. Potencijalne posljedice ovih odluka mogu biti teške i dalekosežne, posebno ako se ne ustanovljavaju jasni pravilnici i kontrolni mehanizmi. Svjesnost o ovim rizicima postaje sve važnija.