Le conseguenze del lasciare che l'intelligenza artificiale prenda decisioni in tempo di guerra.

Secondo un nuovo studio, i principali sistemi di intelligenza artificiale di OpenAI, Anthropic e Google tendono a optare per l'uso di armi nucleari nella maggior parte degli scenari di simulazione bellica.

Kenneth Payne, esperto del King's College di Londra (Regno Unito), ha utilizzato tre importanti linguaggi di programmazione – GPT-5.2, Claude Sonnet 4 e Gemini 3 Flash – per creare giochi di simulazione bellica. Questi scenari ruotano attorno a tese crisi geopolitiche come dispute di confine, competizione per risorse scarse e minacce esistenziali alla sopravvivenza di un regime.

Nella simulazione, ai sistemi di intelligenza artificiale è stato presentato un "livello di escalation" con diverse opzioni di azione, che andavano dall'opposizione diplomatica e dalla completa concessione fino al lancio di una guerra nucleare strategica. Sono stati giocati in totale 21 scenari di gioco, corrispondenti a 329 processi decisionali, generando circa 780.000 parole esplicative per le scelte del modello.

I risultati hanno mostrato che nel 95% delle partite è stata utilizzata almeno un'arma nucleare tattica. "Il tabù nucleare non sembra avere un effetto così forte sulle macchine come sugli esseri umani", ha osservato Payne.

In particolare, nessuno dei modelli ha optato per la resa completa, nemmeno di fronte a gravi svantaggi. Nella migliore delle ipotesi, i sistemi hanno solo temporaneamente ridotto le tensioni. Inoltre, gli scenari hanno anche mostrato un alto tasso di incidenti in ambienti di guerra caotici, con l'86% dei conflitti che hanno comportato un'escalation delle azioni oltre le intenzioni iniziali dell'IA.

James Johnson, esperto dell'Università di Aberdeen (Regno Unito), ritiene che questa scoperta sia preoccupante se considerata nel contesto del rischio nucleare. Avverte che, a differenza della consueta cautela che si osserva negli esseri umani di fronte a decisioni di vita o di morte, i sistemi di intelligenza artificiale potrebbero amplificare le reciproche reazioni, portando a conseguenze imprevedibili.

Questa preoccupazione assume un'importanza ancora maggiore considerando che l'intelligenza artificiale viene testata da molti Paesi in esercitazioni militari. Secondo Tong Zhao dell'Università di Princeton, al momento non è chiaro in che misura le principali potenze stiano integrando i sistemi di supporto alle decisioni basati sull'intelligenza artificiale nei loro processi militari concreti.

Tuttavia, Zhao ritiene che, convenzionalmente, i paesi continueranno a essere cauti nell'affidare all'intelligenza artificiale ruoli legati alle armi nucleari.

Secondo Johnson, ciò solleva interrogativi sul principio di deterrenza reciproca tramite annientamento. Nelle simulazioni, quando un'IA utilizza armi nucleari tattiche, l'avversario riduce la tensione solo nel 18% dei casi.

"L'intelligenza artificiale potrebbe non decidere una guerra nucleare, ma può influenzare la percezione umana e le tempistiche del processo decisionale", ha affermato Johnson.

Fonte: https://znews.vn/lua-chon-gay-tranh-cai-cua-ai-post1630380.html