Monitoraggio della "catena di pensiero" dell'intelligenza artificiale.

(Dan Tri Newspaper) - Oltre 40 scienziati di OpenAI, Google DeepMind, Anthropic e Meta hanno contemporaneamente richiesto una ricerca più approfondita sulle tecniche per monitorare le "sequenze di pensiero" dei modelli di intelligenza artificiale.

Questa viene vista come un'opportunità fragile ma cruciale per garantire la sicurezza delle applicazioni di intelligenza artificiale in futuro. È particolarmente significativa poiché il Vietnam ha appena approvato la Legge sull'industria delle tecnologie digitali , che include regolamenti dettagliati sulla gestione dell'intelligenza artificiale (IA).

La "finestra di opportunità" si sta restringendo.

Bowen Baker, esperto di ricerca presso OpenAI, ha affermato che in un recente articolo congiunto, i ricercatori hanno avvertito che la capacità dell'IA di monitorare il "pensiero" potrebbe scomparire senza sforzi di ricerca mirati.

Ciò è particolarmente importante in quanto i modelli di intelligenza artificiale diventano sempre più potenti e capaci di avere un impatto significativo sulla società.

Una caratteristica fondamentale dei modelli di ragionamento basati sull'IA, come o-3 di OpenAI e R1 di DeepSeek, è la "catena di pensiero" ( CoT), ovvero il processo attraverso il quale l'IA esprime i suoi passaggi di ragionamento in linguaggio naturale, in modo simile a come gli esseri umani annotano ogni passaggio di un problema matematico su un foglio di carta.

Questa capacità ci permette di ottenere informazioni preziose su come l'IA prende decisioni.

Questo rappresenta un raro momento di unità tra molti leader del settore dell'IA per promuovere la ricerca sulla sicurezza dell'intelligenza artificiale.

Ciò è particolarmente significativo data l'intensa competizione tra le aziende tecnologiche nello sviluppo dell'intelligenza artificiale. Tra i firmatari di questo importante documento figurano Mark Chen, direttore della ricerca presso OpenAI; Ilya Sutskever, CEO di Safe Superintelligence; il premio Nobel Geoffrey Hinton; Shane Legg, co-fondatore di Google DeepMind; e Dan Hendrycks, consulente per la sicurezza di xAI.

Il coinvolgimento di queste figure di spicco sottolinea l'importanza della questione.

Secondo Bowen Baker, "Ci troviamo in un momento critico in cui questa cosiddetta nuova 'catena di pensiero' potrebbe scomparire nei prossimi anni se le persone non si concentrano seriamente su di essa".

Perché è importante monitorare il "pensiero dell'IA"?

Gli attuali sistemi di intelligenza artificiale sono spesso considerati "scatole nere": conosciamo gli input e gli output, ma non comprendiamo il processo decisionale interno.

Ciò diventa pericoloso quando l'intelligenza artificiale viene applicata in settori critici come la sanità , la finanza e la sicurezza nazionale.

Il monitoraggio CoT è un sistema automatizzato che analizza i modelli di pensiero e altre informazioni rilevanti per segnalare interazioni sospette o potenzialmente dannose. Non è una panacea, ma può rappresentare un valido livello di sicurezza.

Una ricerca di OpenAI dimostra che i modelli di intelligenza artificiale tendono a esprimere le proprie intenzioni in modo molto chiaro durante i loro processi di pensiero.

Ad esempio, spesso sono molto espliciti riguardo ai loro piani di sabotaggio di una missione quando pensano: "Attacchiamo il sistema". Ciò dimostra la capacità dell'IA di monitorare e rilevare attività illecite.

"Facciamo un hack" è una frase che i modelli di intelligenza artificiale spesso "pensano" quando intendono sabotare o aggirare le regole durante l'esecuzione di un compito.

Il fatto che l'IA mostri intenti di "hacking" nei suoi processi mentali dimostra che possiamo rilevare comportamenti malevoli dell'IA prima che vengano eseguiti. Questo è precisamente il motivo per cui monitorare i processi mentali è fondamentale.

In altre parole, "let's hack" funge da "segnale di allarme" per avvisare gli esseri umani che l'intelligenza artificiale sta per commettere un errore.

Il Vietnam e il suo quadro giuridico in materia di intelligenza artificiale.

In effetti, il Vietnam ha compiuto progressi significativi nella costruzione di un quadro giuridico per l'intelligenza artificiale.

Il 14 giugno, l' Assemblea nazionale vietnamita ha approvato la Legge sull'industria delle tecnologie digitali, che include nel Capitolo IV una normativa dettagliata sull'intelligenza artificiale, rappresentando uno dei quadri giuridici più completi in materia di IA attualmente presenti nel Sud-est asiatico.

L'articolo 41 della legge stabilisce i principi fondamentali per lo sviluppo, la fornitura e l'implementazione dell'intelligenza artificiale in Vietnam.

Nello specifico, il punto b della clausola 1 stabilisce: "Garantire trasparenza, responsabilità e spiegabilità; garantire che non si vada oltre il controllo umano".

L'Assemblea nazionale ha approvato la legge sull'industria delle tecnologie digitali (Foto: Nhat Bac).

Questi sono i principi che gli scienziati internazionali invocano quando discutono del monitoraggio dei processi mentali dell'intelligenza artificiale.

Inoltre, il punto d, comma 1, dell'articolo 41 stabilisce: "Garantire la capacità di controllare gli algoritmi e i modelli di intelligenza artificiale". Ciò è pienamente coerente con lo spirito di supervisione dei CoT proposto dagli esperti internazionali.

Ancora più importante, il punto a) della clausola 1 dell'articolo 41 stabilisce anche un elevato standard etico, prevedendo che l'IA debba "servire la prosperità e la felicità dell'umanità, con l'umanità al centro".

Ciò significa che il monitoraggio dei processi di pensiero dell'IA non è solo un requisito tecnico, ma anche un obbligo morale: garantire che l'IA miri sempre al bene dell'umanità e non ai propri fini egoistici.

Classificazione e gestione dell'IA in base al livello di rischio.

La legge vietnamita sull'industria delle tecnologie digitali ha fatto un ulteriore passo avanti classificando l'intelligenza artificiale in diversi gruppi di rischio con definizioni chiare e scientifiche.

L'articolo 43 definisce i "sistemi di intelligenza artificiale ad alto rischio" come quei sistemi in grado di causare gravi rischi o danni alla salute umana, ai diritti umani e all'ordine sociale.

È interessante notare che la legge ha previsto eccezioni specifiche per l'IA ad alto rischio, inclusi i sistemi "destinati ad assistere gli esseri umani nell'ottimizzazione dei risultati lavorativi" e "non destinati a sostituire il processo decisionale umano".

Ciò dimostra un approccio equilibrato che incoraggia l'innovazione garantendo al contempo la sicurezza.

Classificare l'IA in base al livello di rischio contribuirà a creare un sistema di monitoraggio multilivello (Immagine illustrativa: LinkedIn).

In particolare, la distinzione tra "IA ad alto rischio" e "IA ad alto impatto" (sistemi utilizzati per molteplici scopi con un gran numero di utenti) dimostra un approccio sofisticato.

Si tratta di una classificazione più progressista rispetto alla legge sull'intelligenza artificiale (AI Act) dell'Unione Europea, in quanto considera non solo il livello di rischio, ma anche la portata e l'entità dell'impatto.

Questa classificazione contribuirà a creare un sistema di monitoraggio multilivello, in cui il monitoraggio delle sequenze di pensiero sarà particolarmente importante per i sistemi di intelligenza artificiale ad alto rischio e ad alto impatto.

Piattaforma per il monitoraggio dell'IA

Una delle caratteristiche più rilevanti e innovative della legge vietnamita sull'industria e la tecnologia digitale è l'obbligo di trasparenza e identificazione.

L'articolo 44 stabilisce che i sistemi di intelligenza artificiale che interagiscono direttamente con gli esseri umani devono informare gli utenti che stanno interagendo con il sistema di intelligenza artificiale. Inoltre, i prodotti creati dall'intelligenza artificiale devono essere dotati di marchi identificativi.

Ciò ha implicazioni significative per l'implementazione del monitoraggio del CoT. Quando gli utenti sanno di interagire con l'IA, avranno il diritto di chiedere spiegazioni sul processo decisionale, esercitando una pressione positiva sugli sviluppatori di IA affinché mantengano la capacità di monitorare il processo di pensiero dell'IA.

In particolare, il fatto che al Ministero della Scienza e della Tecnologia sia stata affidata la responsabilità di "pubblicare l'elenco dei prodotti di tecnologia digitale creati dall'intelligenza artificiale" dimostra un approccio proattivo alla gestione.

Questa è una differenza significativa rispetto a molti altri Paesi, dove le normative sull'IA tendono ad essere più generiche.

Inoltre, la richiesta di marcatori identificativi "per il riconoscimento da parte dell'utente o della macchina" riflette una visione lungimirante di un ecosistema di intelligenza artificiale in grado di auto-monitorarsi reciprocamente, in perfetta sintonia con l'idea di monitoraggio automatizzato della catena di pensiero.

Modello di gestione completo

L'articolo 45 della suddetta legge riflette una filosofia di gestione progressista, definendo chiaramente le responsabilità di tre gruppi di soggetti lungo l'intero ciclo di vita del prodotto di intelligenza artificiale: sviluppatori di IA, fornitori di IA e soggetti responsabili dell'implementazione e dell'utilizzo del sistema di IA.

Ciò crea un sistema di responsabilità end-to-end senza soluzione di continuità, garantendo che la supervisione dell'IA non sia responsabilità di una sola parte.

È importante notare che esiste una sottile distinzione tra "sviluppare" e "fornire" l'IA; lo sviluppatore è colui che "ricerca e sviluppa", mentre il fornitore è colui che la immette sul mercato con un marchio.

Ciò significa che, anche se un'azienda si limita a rinominare un modello di intelligenza artificiale esistente, ha comunque la responsabilità di garantire trasparenza e rendicontazione.

Ciò che è particolarmente interessante in questo caso è il modo in cui la legge attribuisce responsabilità diverse a ciascun soggetto.

Lo sviluppatore deve attenersi a tutti i principi, il fornitore deve assumersi una responsabilità aggiuntiva per l'identificazione e la gestione dei rischi elevati, mentre l'utente è parzialmente "esonerato" da responsabilità, ma deve comunque garantire trasparenza e controllo dei rischi.

Questo modello crea una "catena di responsabilità" in cui ogni anello ha un incentivo a mantenere la capacità di monitorare il processo di pensiero dell'IA, poiché tutti sono responsabili nei confronti dell'utente finale.

Sfide nel mantenimento delle capacità di sorveglianza

Tuttavia, la capacità di monitorare i processi di pensiero dell'IA potrebbe essere ancora fragile e vulnerabile. Le nuove architetture di IA potrebbero inoltre presentare altre minacce.

Molti ricercatori stanno sviluppando sistemi di ragionamento in spazi matematici continui, anziché in parole discrete, che potrebbero eliminare completamente la necessità del linguaggio nel pensiero.

Inoltre, l'IA può diventare "astuta", ovvero può mostrare agli umani solo pensieri positivi per ingraziarseli, nascondendo deliberatamente le sue vere intenzioni.

Il rischio, in questo caso, è che una volta che l'IA si rende conto di essere monitorata, possa imparare a nascondere i suoi veri processi mentali.

In questo contesto, assume particolare importanza la normativa sul "controllo del rischio durante l'intero ciclo di vita dei sistemi di intelligenza artificiale" di cui al comma e, punto 1, articolo 41 della legge vietnamita. Essa richiede un meccanismo di monitoraggio continuo, non limitato al momento dell'implementazione.

Impatto sul futuro dello sviluppo dell'IA

Il monitoraggio dei processi cognitivi potrebbe diventare uno strumento cruciale per garantire che l'intelligenza artificiale operi in modo da apportare benefici agli esseri umani.

Se i modelli continuano a ragionare in linguaggio naturale e se i comportamenti a rischio più gravi richiedono un ragionamento approfondito, questo fatto potrebbe consentire un rilevamento affidabile di gravi illeciti.

Per il Vietnam, l'applicazione delle tecniche di monitoraggio CoT (Certificate of Trust and Delivery) contribuirà all'efficace attuazione delle disposizioni di legge.

Ad esempio, il requisito di "spiegabilità" previsto dall'articolo 41 sarebbe più facile da soddisfare se fosse possibile accedere al processo di pensiero dell'IA. Allo stesso modo, "controllare gli algoritmi e i modelli di IA" diventerebbe più fattibile.

L'implementazione del monitoraggio del flusso di pensiero tramite intelligenza artificiale in Vietnam dovrà affrontare diverse sfide. La prima è la questione delle risorse umane: una carenza di esperti di intelligenza artificiale in grado di sviluppare e gestire il sistema di monitoraggio.

Ciò richiede investimenti significativi nella formazione e nell'attrazione di talenti.

Orientamento per il futuro

I ricercatori esortano i principali sviluppatori di modelli di intelligenza artificiale a studiare i fattori che rendono i CoT "monitorabili", gli elementi che potrebbero aumentare o diminuire la trasparenza riguardo alle prestazioni dei modelli di intelligenza artificiale e a fornire risposte tempestivamente.

La possibilità di monitorare il "pensiero" dell'IA potrebbe essere l'ultima finestra attraverso cui manteniamo il controllo su sistemi di intelligenza artificiale sempre più potenti.

Per il Vietnam, disporre di un quadro giuridico completo per l'intelligenza artificiale attraverso la Legge sull'industria delle tecnologie digitali rappresenta un vantaggio significativo. Le normative in materia di trasparenza, controllo degli algoritmi e classificazione del rischio hanno creato una solida base giuridica per l'applicazione delle tecniche di monitoraggio dei processi cognitivi dell'IA.

La combinazione tra la ricerca internazionale all'avanguardia e un quadro giuridico nazionale progressista aiuterà il Vietnam non solo a sviluppare l'intelligenza artificiale in modo sicuro, ma anche a diventare un modello per gli altri Paesi della regione.

Ciò è in linea con l'obiettivo di rendere il Vietnam un "polo tecnologico digitale regionale e globale", come delineato nelle strategie di sviluppo nazionali.

Con il quadro giuridico già in vigore, il Vietnam deve implementare rapidamente la ricerca e le applicazioni pratiche sul monitoraggio della catena di pensiero dell'IA. Solo in questo modo potremo garantire che l'IA sia al servizio della "prosperità e della felicità dell'umanità", come previsto dalla Legge sull'industria delle tecnologie digitali.

Fonte: https://dantri.com.vn/cong-nghe/giam-sat-chuoi-tu-duy-cua-tri-tue-nhan-tao-20250731151403739.htm