Il Sudafrica rivede la sua politica sull'intelligenza artificiale dopo lo scandalo delle fonti false.

Il Sudafrica sta rivedendo la sua politica nazionale sull'intelligenza artificiale dopo che una precedente bozza è stata ritirata a causa di numerose citazioni falsificate, presumibilmente create dall'IA, scatenando un dibattito sulla credibilità della politica pubblica.

Il governo sudafricano ha appena istituito una commissione indipendente di esperti per esaminare la bozza della politica nazionale sull'intelligenza artificiale, a seguito di uno scandalo riguardante documenti contenenti riferimenti fittizi.

Questo è uno dei rari casi in cui si sospetta che un documento normativo sull'IA utilizzi contenuti generati dall'IA privi di verifica.

La bozza, pubblicata ad aprile per la consultazione pubblica, mira a rendere il Sudafrica un leader nell'innovazione africana nel campo dell'intelligenza artificiale.

Tuttavia, dopo che News24 ha scoperto numerose citazioni e riferimenti inesistenti, il Dipartimento sudafricano per le comunicazioni digitali e la tecnologia (DCDT) è stato costretto a ritirare l'intero documento.

Immagine a scopo illustrativo. Foto: Reuters

Il Ministro del DCDT, Solly Malatsi, ha riconosciuto che si è verificato "un grave errore" nel processo di compilazione dei documenti. Ha affermato che precedenti verifiche interne non avevano rilevato il problema e ha ammesso una mancanza di trasparenza nell'utilizzo dell'intelligenza artificiale per la compilazione dei materiali di riferimento.

Il governo sudafricano punta ora a finalizzare la versione riveduta entro novembre 2026 per l'approvazione del Consiglio dei Ministri, prima di pubblicarla per commenti nel gennaio 2027. Il nuovo gruppo di esperti, composto da sette specialisti, ha il compito di esaminare tutti i documenti e di rimuovere o sostituire le fonti inesatte.

Jeanette Morwane, direttrice dell'innovazione digitale presso il DCDT, ha affermato che il processo di revisione si concentrerà sulla garanzia della trasparenza e della credibilità accademica del testo. "Il gruppo di esperti esaminerà ogni sezione del contenuto prima di sottoporlo al governo", ha dichiarato.

L'incidente ha portato anche a provvedimenti disciplinari interni. Due funzionari coinvolti sono stati sospesi in attesa di un'indagine. Il direttore generale del DCDT, Nonkqubela Jordan-Dyani, ha definito l'incidente "molto deplorevole" e ha affermato che il ritiro della bozza era necessario per ripristinare la credibilità dell'agenzia.

Lo scandalo in Sudafrica riflette la crescente sfida che l'intelligenza artificiale inizia a rappresentare per l'elaborazione delle politiche pubbliche. Gli strumenti di generazione automatica di dati possono contribuire a una più rapida aggregazione delle informazioni, ma rischiano anche di generare disinformazione o fonti fittizie se non adeguatamente verificate da esseri umani.

Secondo gli osservatori, questo incidente rappresenta un campanello d'allarme per molti governi che stanno perseguendo strategie basate sull'intelligenza artificiale a livello globale. Con il crescente coinvolgimento dell'intelligenza artificiale nella governance, le richieste di trasparenza, verifica dei dati e responsabilità diventeranno probabilmente cruciali.

Secondo Reuters

Fonte: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html