Proposte di linee guida per un quadro etico nazionale sull'intelligenza artificiale

DNVN - Il Ministero della Scienza e della Tecnologia sta attualmente raccogliendo commenti sulla bozza di Circolare che disciplina il Quadro Etico Nazionale per l'Intelligenza Artificiale (IA). L'emanazione di questa Circolare è considerata essenziale per aggiornare e sostituire la Decisione 1290/QD-BKHCN, rafforzando così la base giuridica per lo sviluppo e l'applicazione responsabile dell'IA in Vietnam.

Immagine a scopo illustrativo. Foto: Internet.

La bozza di circolare si applica direttamente agli enti di gestione statale, nonché alle organizzazioni e ai singoli individui coinvolti nella progettazione, nello sviluppo, nella fornitura, nell'implementazione, nella gestione o nell'utilizzo dell'intelligenza artificiale a supporto delle attività di gestione statale e dell'erogazione di servizi pubblici.

La circolare funge anche da importante punto di riferimento per le organizzazioni e le imprese al fine di sviluppare codici di condotta interni e autovalutare il proprio livello di conformità ai principi etici dell'IA nelle proprie attività.

Il criterio principale del Quadro Etico è garantire che i sistemi di intelligenza artificiale operino in modo sicuro, affidabile e assolutamente senza arrecare danno alla vita umana, alla salute, alla reputazione o al benessere mentale.

Per quanto riguarda la sicurezza tecnica : i sistemi di intelligenza artificiale devono essere in grado di resistere ai rischi, proteggere l'integrità dei dati di addestramento e contrastare l'avvelenamento dei dati, prevenendo incidenti o attacchi informatici. Il sistema non deve inoltre generare o diffondere contenuti che offendano l'onore o la dignità altrui o che danneggino il benessere mentale delle persone.

Per quanto riguarda il controllo umano : le macchine non possono essere completamente autonome. I sistemi devono mantenere la capacità di intervento umano, consentendo agli esseri umani di monitorare, mettere in pausa o disattivare il sistema immediatamente in caso di potenziale minaccia.

Secondo la bozza, l'intelligenza artificiale deve rispettare la Costituzione e le leggi sulla protezione dei dati personali, e non deve violare illegalmente la privacy dei cittadini.

Equità e non discriminazione : i dati e gli algoritmi devono essere accuratamente verificati per eliminare qualsiasi pregiudizio. Il sistema non deve discriminare in base a genere, etnia, religione o status sociale…

Trasparenza e responsabilità : l'utilizzo dell'IA deve essere trasparente. Gli utenti devono essere informati quando contenuti o servizi coinvolgono l'IA, e i contenuti creati o modificati dall'IA devono essere etichettati o identificati in modo appropriato. Le parti interessate devono inoltre essere in grado di rendere conto del funzionamento, delle decisioni e delle conseguenze derivanti dai sistemi di IA.

Il quadro etico non è orientato solo alla sicurezza, ma mira anche a promuovere la prosperità e lo sviluppo sostenibile. L'IA deve contribuire al miglioramento del benessere sociale ed essere inclusiva, contribuendo a colmare il divario digitale in modo che anche i gruppi svantaggiati possano beneficiarne. In particolare, viene data enfasi all'orientamento verso un'IA verde, privilegiando lo sviluppo di tecnologie a risparmio di risorse, un uso efficiente dell'energia e la minimizzazione dell'impatto negativo sull'ambiente.

La bozza incoraggia gli sforzi innovativi, ma richiede che siano collegati a valutazioni di rischio ed etiche fin dalla fase di progettazione. Nella ricerca e sviluppo, la raccolta e l'elaborazione dei dati di addestramento e di test devono essere legali, garantendo la sicurezza informatica e i diritti di proprietà intellettuale. Le organizzazioni e i singoli individui che applicano l'IA devono essere responsabili dei risultati del suo utilizzo, ed è severamente vietato l'uso dell'IA per ledere interessi nazionali o pubblici o diritti legittimi di terzi.

Per garantire che i sistemi di intelligenza artificiale soddisfino effettivamente questi criteri, la bozza propone tre principali metodi di valutazione.

Innanzitutto, esaminate la documentazione . Verificate la validità di procedure, politiche, documenti di progettazione e registri operativi.

In secondo luogo, vi è il collaudo tecnico. Questo prevede l'utilizzo di scenari per verificare la funzionalità del sistema, inclusi i dati di input, gli algoritmi e i risultati di output.

Infine, vi è la valutazione del processo. Questa consiste nel confrontare il modo in cui il sistema è organizzato e gestito nella pratica con i regolamenti interni.

Grazie ai suoi criteri e metodi di valutazione esaustivi, la Circolare che disciplina il Quadro Etico Nazionale per l'Intelligenza Artificiale svolgerà un ruolo cruciale nella creazione di un ecosistema di IA sicuro, umano e sostenibile in Vietnam.

Hien Thao

Fonte: https://doanhnghiepvn.vn/cong-nghe/de-xuat-huong-dan-khung-dao-duc-ai-quoc-gia/20260225043127805