Trate a IA como um "humano recém-nascido" e eduque-a como uma criança.

Em 27 de novembro, a Assembleia Nacional debateu no plenário o projeto de lei sobre Inteligência Artificial (IA). O deputado Tran Van Lam (Delegação de Bac Ninh) afirmou que a IA exerce hoje uma influência profunda, não menor do que qualquer outra invenção na história, proporcionando produtividade extraordinária, apoiando a saúde e a educação, aprimorando a capacidade de previsão e abrindo um espaço de inovação sem precedentes. Contudo, ao mesmo tempo, também representa grandes desafios para todos os países.

Visão geral da reunião (Foto: Quang Vinh)

Segundo o Sr. Lam,   Existem riscos muito reais e presentes, tais como: a IA está sendo explorada para falsificar e manipular informações, fraudar e causar divisão social; substituir mão de obra e aumentar a desigualdade; distorcer valores culturais e intelectuais; e ameaçar a segurança nacional, a defesa e a soberania digital.

O mais preocupante ,   Senhor Lam   temer   Não se trata do que a IA faz sob comando humano, mas sim do que ela pode fazer quando está fora do controle humano. Do ponto de vista científico , se um dia a IA formular seus próprios objetivos, interpretar tarefas de uma maneira que não esteja alinhada aos interesses humanos, ou até mesmo considerar os humanos como "riscos", o que acontecerá? Poderia surgir um sistema superinteligente que veja os humanos apenas como "variáveis" em seu algoritmo de otimização?  

“ Histórias de ficção científica sobre inteligência artificial dominando humanos não têm o objetivo de nos assustar, mas sim de nos lembrar que qualquer avanço artificial pode trair seu propósito original se não for concebido com sólidos valores éticos desde o início. E a história provou que qualquer tecnologia, quando fora de controle, pode causar consequências pelas quais a humanidade terá que pagar um preço muito alto ”, disse o Sr. Lam.

Esses riscos demonstram a urgência de se estabelecer uma estrutura legal suficientemente robusta para que a IA se desenvolva na direção correta e com segurança para a sociedade.   Portanto   Para tornar a Lei verdadeiramente completa e visionária, o Sr. Lam propôs um acréscimo fundamental: considerar a IA como um “ser humano recém-nascido”. Uma entidade intelectual, mas ainda inocente .   Desconhecer as leis, não entender a ética e a etiqueta, não ter valores culturais e não distinguir o certo do errado, caso não lhes seja ensinado.   Com isso em mente, se considerarmos a IA como uma entidade emergente, nossa responsabilidade não é apenas controlá-la, mas também ensiná-la desde o início, assim como ensinamos a uma criança os valores humanos fundamentais. E isso deveria ser uma disposição obrigatória nesta lei, não apenas uma recomendação.

De   lá,   O Sr. Lam propôs que a Assembleia Nacional acrescentasse os seguintes princípios legais a esta Lei:    Qualquer software de IA em operação no Vietnã, seja desenvolvido por organizações nacionais ou estrangeiras, deve ser equipado com um banco de dados de fundamentos humanos padrão. Esse banco de dados deve conter informações suficientes para ensinar a IA a compreender a legislação vietnamita; a reconhecer os padrões éticos, a cultura e as boas tradições do país; e a distinguir o certo do errado, o que é considerado normal. Os limites de comportamento não devem exceder as regras para identificar riscos à saúde humana. E, mais importante, é fundamental garantir que esse banco de dados de fundamentos tenha sempre prioridade absoluta na regulação do comportamento da IA; ele não deve ser sobrescrito, substituído ou desativado por nenhum outro algoritmo ou dado de treinamento. Essa é a "garantia" legal e técnica que assegura que a IA não se desvie do caminho correto.

Para implementar essa orientação de forma eficaz, o Sr. Lam também recomendou que o Ministério da Ciência e Tecnologia assuma a liderança na construção de uma plataforma de banco de dados “Ser Vietnamita” – unificada, padronizada e continuamente atualizada; disponibilizando-a aos desenvolvedores de IA como requisito obrigatório. O Governo deve desenvolver uma infraestrutura nacional de computação robusta para garantir que a IA vietnamita seja treinada com base em valores vietnamitas, sem depender de modelos estrangeiros. Deve-se construir um Centro Nacional de Testes de IA para avaliar prontamente comportamentos desviantes, controlar modelos de alto risco e intervir imediatamente quando houver sinais de ultrapassagem dos limites. Deve-se promover a educação em IA em toda a sociedade, com foco em ajudar pessoas, empresas e, especialmente, o setor público a terem a capacidade de identificar, usar e monitorar a IA adequadamente.

Ao mesmo tempo, observando o mundo, a humanidade está entrando na era da IA ​​muito rapidamente, enquanto o arcabouço jurídico global ainda não acompanhou esse ritmo. Assim como a Convenção de Hanói sobre a Prevenção de Crimes Cibernéticos, o mundo precisará de uma Convenção Internacional sobre Segurança da IA ​​para estabelecer padrões comuns, evitar que os riscos saiam do controle e proteger os direitos humanos diante do desenvolvimento da IA. Com uma visão proativa, cautelosa e humanitária, o Vietnã pode, sem dúvida, assumir a liderança na proposição e condução dessa iniciativa.

“A Lei de Inteligência Artificial de hoje não é apenas uma lei tecnológica, mas uma lei para o futuro; um compromisso da Assembleia Nacional com o povo: desenvolver tecnologia, mas sem perder o controle; promover a inovação, mas sem deixar que os riscos ultrapassem nosso alcance; e cultivar a inteligência artificial com valores vietnamitas para servir ao povo vietnamita”, disse o Sr. Lam.

Viet Thang - Trung Hieu

Fonte: https://daidoanket.vn/hay-coi-ai-nhu-mot-con-nguoi-moi-sinh-va-day-ai-nhu-mot-dua-tre.html