È necessario un meccanismo per valutare i rischi legati all'intelligenza artificiale.

Nel pomeriggio del 27 novembre, sotto la presidenza del vicepresidente dell'Assemblea nazionale Le Minh Hoan, i deputati dell'Assemblea nazionale hanno discusso in seduta plenaria il progetto di legge sull'intelligenza artificiale.

Etichettatura di prodotti creati dall'intelligenza artificiale

Veduta dell'Assemblea Nazionale nel pomeriggio del 27 novembre. Foto: QUANG PHÚC

Sottolineando la necessità di meccanismi di controllo del rischio per l'intelligenza artificiale nella vita moderna, il deputato dell'Assemblea Nazionale Nguyen Tam Hung (Ho Chi Minh City) ha affermato che la bozza di legge che impone ai fornitori di garantire la marcatura leggibile dalle macchine dei contenuti di IA è essenziale; tuttavia, ha suggerito di valutare l'aggiunta di un requisito obbligatorio per la visualizzazione diretta delle informazioni identificative sull'interfaccia interattiva quando il contenuto può generare confusione, al fine di proteggere gli utenti comuni, in particolare i bambini e gli anziani, dal rischio di disinformazione e falsificazioni sofisticate. Questa regolamentazione rafforza la responsabilità sociale dei fornitori di tecnologia e consolida la fiducia digitale tra i cittadini.

Inoltre, il rappresentante Nguyen Tam Hung ha affermato che, attraverso le sue ricerche, ha scoperto che gli attuali modelli di intelligenza artificiale multiuso non solo creano testo o immagini, ma possono anche generare codice sorgente, strumenti di attacco, istruzioni di esecuzione, procedure di attacco informatico e metodi di frode finanziaria. Pertanto, il rappresentante ha proposto di aggiungere un requisito per controllare la "capacità di autogenerazione" del modello quando si consente la generazione di codice sorgente. Ha suggerito che meccanismi di avviso, blocco e limitazione dell'output sono necessari per garantire la sicurezza informatica, l'ordine sociale e la sicurezza.

Rappresentante Nguyen Tam Hung (Ho Chi Minh City). Foto: QUANG PHUC

Riguardo ai rischi posti dall'intelligenza artificiale, il deputato dell'Assemblea nazionale Pham Van Hoa ( Dong Thap ) ha affermato che, sebbene la tecnologia dell'IA sia uno strumento di supporto per gli esseri umani, comporta anche molti rischi elevati; il deputato ha chiesto alla commissione di redazione di condurre una valutazione obiettiva e accurata della questione.

"I rischi possono incidere sulla vita umana, sulla proprietà, sui diritti e sui legittimi interessi di organizzazioni e individui", ha affermato il deputato Pham Van Hoa, aggiungendo che è necessario etichettare i prodotti creati dall'intelligenza artificiale. Secondo lui, etichettare i prodotti come generati dall'IA permetterebbe alle persone di distinguere tra i prodotti generati dall'IA e quelli che non lo sono...

Rappresentante Pham Van Hoa (Dong Thap). Foto: QUANG PHUC

Nel frattempo, la deputata dell'Assemblea Nazionale Trinh Thi Tu Anh ( Lam Dong ) ha sostenuto che l'articolo 11 del progetto di legge non riflette pienamente l'approccio di valutazione del rischio basato sull'impatto tecnologico. Secondo lei, nel contesto attuale, l'intelligenza artificiale può creare metodi dannosi precedentemente non identificati. Pertanto, la deputata Trinh Thi Tu Anh ha proposto di aggiungere una disposizione che reciti: "Il Governo fornirà regolamenti dettagliati e aggiornerà e integrerà periodicamente l'elenco dei sistemi di intelligenza artificiale con rischi inaccettabili sulla base della valutazione del rischio, delle tendenze tecnologiche e delle esigenze pratiche di gestione". Ritiene che questo meccanismo garantisca che la legge non diventi obsoleta e possa rispondere rapidamente alle nuove minacce.

Evitare l'uso improprio dell'intelligenza artificiale.

La deputata Tran Khanh Thu (Hung Yen) ha sollevato la questione dell'intelligenza artificiale a supporto di esami e trattamenti medici, sostenendo che l'IA non solo contribuisce a ottimizzare i processi nel settore sanitario, riducendo il carico di lavoro di medici e operatori sanitari, ma svolge anche un ruolo cruciale nella personalizzazione delle cure, migliorando così gli esiti sanitari e ottimizzando l'uso delle risorse. Tuttavia, l'applicazione dell'IA per identificare i segnali di salute può talvolta risultare controproducente.

Rappresentante Tran Khanh Thu (Hung Yen). Foto: QUANG PHUC

La delegata ha citato l'esempio concreto di un paziente di 55 anni di Ho Chi Minh City, giunto in ospedale in stato di semi-incoscienza. In precedenza, la famiglia del paziente aveva utilizzato l'intelligenza artificiale per la diagnosi e aveva acquistato dei farmaci. Dopo l'assunzione dei farmaci, le condizioni del paziente erano peggiorate e, una volta ricoverato in ospedale, gli erano stati diagnosticati danni cerebrali e un ictus, con conseguenze inevitabilmente permanenti.

"Assolutamente nessuno dovrebbe utilizzare i risultati delle ricerche per diagnosticare o prescrivere farmaci. Tuttavia, chi vende farmaci basandosi su prescrizioni generate dall'intelligenza artificiale sta violando la legge?", si è chiesto il deputato Tran Khanh Thu, auspicando che il progetto di legge sull'intelligenza artificiale includa disposizioni giuridiche più specifiche per la gestione dei prodotti di intelligenza artificiale in ambito sanitario, in particolare per quanto riguarda le responsabilità delle parti coinvolte.

Riguardo al passaggio dalla verifica post-audit alla verifica pre-audit previsto nella bozza di legge, il rappresentante Tran Khanh Thu ha suggerito che dovrebbero essere stabilite soglie quantitative chiare, ad esempio, quando il modello cambia algoritmo, la base di utenti aumenta o i dati di addestramento superano una determinata soglia.

Rappresentante Pham Trong Nghia (Lang Son). Foto: QUANG PHUC

Commentando ulteriormente l'"abuso dell'IA", il deputato dell'Assemblea Nazionale Pham Trong Nghia (Lang Son) ha sostenuto che un eccessivo affidamento sull'IA nella vita quotidiana ridurrebbe il pensiero critico e la creatività. Ha aggiunto che l'uso improprio dell'IA pone molti potenziali problemi, come: la violazione della sovranità nazionale, la riduzione dell'efficacia della pubblica amministrazione e l'impatto negativo su individui e famiglie, soprattutto sulle giovani generazioni.

“Per il settore pubblico, l'uso improprio dell'IA riduce la fattibilità, l'umanità e l'efficacia delle politiche e delle leggi. Fornire informazioni e dati sensibili all'IA, se non rigorosamente controllato, può portare a fughe di dati, danneggiando la sicurezza nazionale e l'ordine sociale con conseguenze imprevedibili”, ha affermato il deputato Pham Trong Nghia, proponendo che il progetto di legge includa una disposizione che vieti determinati comportamenti, tra cui l'uso improprio dell'IA nel settore pubblico.

DO TRUNG

Fonte: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html