Konsekvenserna av att låta AI fatta krigsbeslut.

Ledande AI-system från OpenAI, Anthropic och Google tenderar att välja att använda kärnvapen i de flesta krigssimuleringsscenarier, enligt en nyligen publicerad studie.

Kenneth Payne, expert vid King's College London (Storbritannien), använde tre stora programmeringsspråk – GPT-5.2, Claude Sonnet 4 och Gemini 3 Flash – för att bygga krigssimuleringsspel. Dessa scenarier kretsar kring spända geopolitiska kriser som gränstvister, konkurrens om knappa resurser och existentiella hot mot en regims överlevnad.

I simuleringen presenterades AI-systemen för en "eskaleringsnivå" med olika handlingsalternativ, allt från diplomatiskt motstånd och fullständig eftergift till att inleda strategiskt kärnvapenkrig. Totalt spelades 21 spelscenarier, motsvarande 329 beslutsprocesser, vilket genererade cirka 780 000 förklarande ord för modellens val.

Resultaten visade att i 95 % av spelen användes minst ett taktiskt kärnvapen. ”Kärnvapentabut verkar inte ha lika stark effekt på maskiner som på människor”, observerade Payne.

Det är anmärkningsvärt att ingen av modellerna valde fullständig kapitulation, inte ens när de mötte allvarliga nackdelar. I bästa fall minskade systemen bara spänningarna tillfälligt. Dessutom visade scenarierna en hög olycksfrekvens i kaotiska krigsmiljöer, där 86 % av konflikterna involverade eskalerande åtgärder bortom AI:s ursprungliga avsikter.

James Johnson, expert vid University of Aberdeen (Storbritannien), anser att detta fynd är oroande när det betraktas i samband med kärnvapenrisker. Han varnar för att AI-system, till skillnad från den vanliga försiktighet som ses hos människor när de ställs inför beslut om liv eller död, kan förstärka varandras reaktioner, vilket leder till oförutsägbara konsekvenser.

Denna oro blir ännu mer anmärkningsvärd eftersom AI testas av många länder i krigsövningar. Enligt Tong Zhao från Princeton University är det för närvarande oklart i vilken utsträckning stormakter integrerar AI-drivna beslutsstödssystem i sina faktiska militära processer.

Zhao tror dock att länder traditionellt sett fortfarande kommer att vara försiktiga när de överväger att anförtro AI roller relaterade till kärnvapen.

Enligt Johnson väcker detta frågor om principen om ömsesidig förintelseavskräckning. I simuleringar, när en AI använder taktiska kärnvapen, deeskalerar motståndaren endast i 18 % av fallen.

"AI kanske inte avgör kärnvapenkrig, men den kan forma mänsklig uppfattning och tidslinjen för beslutsfattande", konstaterade Johnson.