La minaccia dei "robot assassini dotati di intelligenza artificiale" mette in pericolo la sicurezza globale.

Il quadro complesso dell'utilizzo di robot assassini dotati di intelligenza artificiale.

Consentire all'intelligenza artificiale di controllare i sistemi d'arma potrebbe significare che i bersagli vengano identificati, attaccati e distrutti senza intervento umano. Ciò solleva seri interrogativi di natura legale ed etica.

Sottolineando la gravità della situazione, il ministro degli Esteri austriaco Alexander Schallenberg ha dichiarato: "Questo è il momento Oppenheimer della nostra generazione".

Robot e armi alimentati dall'intelligenza artificiale stanno iniziando a essere ampiamente utilizzati negli eserciti di molti paesi. Foto: Forbes

In effetti, la misura in cui il "genio è uscito dal vaso" è diventata una questione urgente, dato l'ampio utilizzo di droni e intelligenza artificiale (IA) da parte degli eserciti di tutto il mondo .

Wilson Jones, analista della difesa presso GlobalData, ha affermato: "L'utilizzo di droni da parte di Russia e Ucraina nei conflitti moderni, l'impiego di droni da parte degli Stati Uniti in operazioni di attacco mirate in Afghanistan e Pakistan e, come rivelato di recente il mese scorso, nell'ambito del programma israeliano Lavender, dimostrano come le capacità di elaborazione delle informazioni dell'intelligenza artificiale siano state attivamente utilizzate dagli eserciti di tutto il mondo per potenziare la propria capacità offensiva".

Le indagini condotte dall'Office of War Investigations di Londra hanno rivelato che il sistema di intelligenza artificiale Lavender dell'esercito israeliano aveva un tasso di precisione del 90% nell'identificare individui legati ad Hamas, il che significa che il 10% non lo era. Questo ha provocato vittime civili a causa delle capacità di identificazione e di presa di decisione dell'IA.

Una minaccia alla sicurezza globale.

L'utilizzo dell'intelligenza artificiale in questo modo sottolinea la necessità di una gestione tecnologica nei sistemi d'arma.

Il dottor Alexander Blanchard, ricercatore senior presso il programma di governance dell'intelligenza artificiale dello Stockholm International Peace Research Institute (SIPRI), un gruppo di ricerca indipendente focalizzato sulla sicurezza globale, ha spiegato ad Army Technology: "L'uso dell'IA nei sistemi d'arma, in particolare quando viene utilizzata per il puntamento, solleva interrogativi fondamentali su chi siamo – noi esseri umani – e sul nostro rapporto con la guerra, e più specificamente, sulle nostre ipotesi su come potremmo usare la violenza nei conflitti armati".

Se utilizzati in ambienti caotici, i sistemi di intelligenza artificiale possono operare in modo imprevedibile e potrebbero non identificare con precisione i bersagli. (Immagine: MES)

«L'intelligenza artificiale cambierà il modo in cui gli eserciti selezionano i bersagli e li colpiscono? Questi cambiamenti, a loro volta, sollevano una serie di questioni legali, etiche e operative. La preoccupazione maggiore è di natura umanitaria», ha aggiunto il dottor Blanchard.

L'esperto del SIPRI ha spiegato: "Molti temono che, a seconda di come vengono progettati e utilizzati i sistemi automatizzati, questi possano mettere a maggior rischio la vita dei civili e di altre persone protette dal diritto internazionale. Questo perché i sistemi di intelligenza artificiale, soprattutto se utilizzati in ambienti caotici, possono operare in modo imprevedibile e potrebbero non riuscire a identificare con precisione i bersagli, attaccando i civili, oppure non riuscire a individuare i combattenti che si trovano fuori dalla linea di tiro."

Approfondendo la questione, Wilson Jones, analista della difesa presso GlobalData, osserva che la definizione stessa di colpevolezza potrebbe essere messa in discussione.

"Secondo le attuali leggi di guerra, esiste il concetto di responsabilità di comando", ha affermato Jones. "Ciò significa che un ufficiale, un generale o un altro leader è legalmente responsabile delle azioni delle truppe sotto il suo comando. Se le truppe commettono crimini di guerra, l'ufficiale è ritenuto responsabile anche se non ha impartito l'ordine; l'onere della prova spetta a lui, che deve dimostrare di aver fatto tutto il possibile per prevenire i crimini di guerra."

“Con i sistemi di intelligenza artificiale, le cose si complicano. Chi è il responsabile? Il progettista del sistema? Non è chiaro. Se non è chiaro, si crea un rischio morale se gli attori pensano che le loro azioni non siano protette dalle leggi vigenti”, ha sottolineato Jones.

Un soldato statunitense pattuglia la zona con un cane robot. Foto: Forbes

Convenzioni sul controllo degli armamenti: diversi importanti accordi internazionali limitano e regolamentano determinati usi delle armi. Tra questi figurano il divieto delle armi chimiche, i trattati di non proliferazione nucleare e la Convenzione su alcune armi convenzionali, che proibiscono o limitano l'uso di armi specifiche ritenute in grado di causare sofferenze inutili o ingiustificabili ai combattenti o di colpire indiscriminatamente i civili.

"Il controllo degli armamenti nucleari richiede decenni di cooperazione internazionale e successivi trattati per essere applicabile", spiega l'analista della difesa Wilson Jones. "Anche in quel caso, abbiamo continuato i test atmosferici fino agli anni '90. Una delle ragioni principali del successo della non proliferazione nucleare è stata la cooperazione tra Stati Uniti e Unione Sovietica nell'ordine mondiale bipolare. Tale cooperazione non esiste più e la tecnologia dell'intelligenza artificiale è diventata più accessibile a un numero maggiore di paesi rispetto all'energia atomica."

"Un trattato vincolante dovrebbe riunire tutte le parti coinvolte attorno a un tavolo per concordare di non utilizzare uno strumento che aumenti la loro potenza militare . È improbabile che ciò sia efficace, poiché l'intelligenza artificiale può migliorare l'efficacia militare con costi finanziari e materiali minimi."

Prospettiva geopolitica attuale

Sebbene i paesi membri delle Nazioni Unite abbiano riconosciuto la necessità di un uso responsabile dell'intelligenza artificiale in ambito militare, resta ancora molto da fare.

Laura Petrone, analista principale di GlobalData, ha dichiarato ad Army Technology: "A causa della mancanza di un quadro di riferimento chiaro, queste dichiarazioni rimangono in gran parte ambiziose. Non sorprende che alcuni Paesi vogliano mantenere la propria sovranità nel prendere decisioni in materia di difesa interna e sicurezza nazionale, soprattutto nel contesto delle attuali tensioni geopolitiche".

La signora Petrone ha aggiunto che, sebbene la legge europea sull'intelligenza artificiale stabilisca alcuni requisiti per i sistemi di intelligenza artificiale, non disciplina i sistemi di intelligenza artificiale utilizzati per scopi militari.

«Credo che, nonostante questa esclusione, l'AI Act rappresenti un importante passo avanti per stabilire un quadro normativo, atteso da tempo, per le applicazioni dell'IA, che potrebbe portare in futuro a un certo grado di armonizzazione degli standard pertinenti», ha commentato. «Questa armonizzazione sarà cruciale anche per l'IA in ambito militare».

Nguyen Khanh

Fonte: https://www.congluan.vn/moi-nguy-robot-sat-thu-ai-dang-de-doa-an-ninh-toan-cau-post304170.html