Konsekvensene av å la AI ta krigsbeslutninger.

Ledende AI-systemer fra OpenAI, Anthropic og Google har en tendens til å velge bruk av atomvåpen i de fleste krigssimuleringsscenarier, ifølge en nylig publisert studie.

Kenneth Payne, en ekspert ved King's College London (Storbritannia), brukte tre store programmeringsspråk – GPT-5.2, Claude Sonnet 4 og Gemini 3 Flash – for å bygge krigssimuleringsspill. Disse scenariene dreier seg om spente geopolitiske kriser som grensetvister, konkurranse om knappe ressurser og eksistensielle trusler mot et regimes overlevelse.

I simuleringen ble AI-systemene presentert for et «eskaleringsnivå» med ulike handlingsalternativer, alt fra diplomatisk motstand og fullstendig ettergivelse til å iverksette strategisk atomkrig. Totalt 21 spillscenarioer ble spilt, tilsvarende 329 beslutningsprosesser, noe som genererte omtrent 780 000 forklarende ord for modellens valg.

Resultatene viste at i 95 % av spillene ble minst ett taktisk atomvåpen brukt. «Atomforbudet ser ikke ut til å ha like sterk effekt på maskiner som det har på mennesker», observerte Payne.

Det er verdt å merke seg at ingen av modellene valgte fullstendig overgivelse, selv når de sto overfor alvorlige ulemper. I beste fall deeskalerte systemene bare spenningene midlertidig. Videre viste scenarioene også en høy ulykkesrate i kaotiske krigsmiljøer, med 86 % av konfliktene som involverte eskalerende handlinger utover AI-ens opprinnelige intensjoner.

James Johnson, en ekspert ved University of Aberdeen (Storbritannia), mener dette funnet er bekymringsfullt når det vurderes i sammenheng med atomrisiko. Han advarer om at i motsetning til den vanlige forsiktigheten man ser hos mennesker når de står overfor avgjørelser om liv eller død, kan AI-systemer forsterke hverandres reaksjoner, noe som fører til uforutsigbare konsekvenser.

Denne bekymringen blir enda mer bemerkelsesverdig ettersom AI testes av mange land i krigsøvelser. Ifølge Tong Zhao fra Princeton University er det for øyeblikket uklart i hvilken grad stormakter integrerer AI-drevne beslutningsstøttesystemer i sine faktiske militære prosesser.

Zhao mener imidlertid at land vanligvis fortsatt vil være forsiktige når de vurderer å betro AI roller knyttet til atomvåpen.

Ifølge Johnson reiser dette spørsmål om prinsippet om gjensidig utslettelsesavskrekking. I simuleringer, når en AI bruker taktiske atomvåpen, deeskalerer motstanderen i bare 18 % av tilfellene.

«KI kan kanskje ikke avgjøre atomkrig, men den kan forme menneskelig oppfatning og tidslinjen for beslutningstaking», uttalte Johnson.