É proibido o uso de sistemas de IA para criar conteúdo falso que coloque em risco a segurança nacional.

Na tarde de 10 de dezembro, a Assembleia Nacional aprovou a Lei de Inteligência Artificial com 429 votos a favor dos 434 delegados presentes (equivalente a 90,7% do total de delegados da Assembleia Nacional).

A Lei de Inteligência Artificial compreende 8 capítulos e 35 artigos, regulamentando a pesquisa, o desenvolvimento, o fornecimento, a implantação e o uso de sistemas de inteligência artificial; os direitos e obrigações das organizações e indivíduos relevantes; e a gestão estatal das atividades de inteligência artificial no Vietnã. Atividades de inteligência artificial destinadas exclusivamente à defesa nacional, segurança e criptografia não são abrangidas por esta Lei.

Resultados da votação para aprovação da Lei de Inteligência Artificial. (Foto: DUY LINH)

4 princípios fundamentais em operações de inteligência artificial

De acordo com a lei recentemente aprovada pela Assembleia Nacional, as atividades de inteligência artificial devem garantir o cumprimento de quatro princípios básicos, incluindo:

Colocar as pessoas no centro, garantir os direitos humanos, o direito à privacidade, os interesses nacionais, o interesse público e a segurança nacional; respeitar a Constituição e as leis.

A inteligência artificial serve a humanidade, não substitui a autoridade e a responsabilidade humanas. Ela garante a manutenção do controle humano e a capacidade de intervir em todas as decisões e comportamentos do sistema de inteligência artificial; a segurança do sistema, a segurança dos dados e a confidencialidade das informações; e a capacidade de inspecionar e monitorar o desenvolvimento e a operação do sistema.

Garantir justiça, transparência, imparcialidade, não discriminação e ausência de danos a indivíduos ou à sociedade; respeitar os padrões éticos e os valores culturais vietnamitas; e ser responsável pelas decisões e consequências do sistema.

Promover o desenvolvimento de inteligência artificial verde, inclusiva e sustentável; incentivar o desenvolvimento e a aplicação de tecnologias de inteligência artificial que sejam energeticamente eficientes, economizem recursos e reduzam os impactos negativos no meio ambiente.

Classificação e gestão de sistemas de IA com base no risco.

A Lei da Inteligência Artificial estipula a classificação e a gestão dos sistemas de inteligência artificial de acordo com três níveis de risco: alto, médio e baixo.

Sistemas de inteligência artificial de alto risco são aqueles que podem causar danos significativos à vida, à saúde, aos direitos legítimos e aos interesses de organizações e indivíduos, aos interesses nacionais, aos interesses públicos e à segurança nacional;

Um sistema de inteligência artificial de risco médio é aquele que tem o potencial de confundir, influenciar ou manipular os usuários porque eles são incapazes de reconhecer que a entidade com a qual interagem é um sistema de inteligência artificial ou o conteúdo que ele gera;

Os sistemas de inteligência artificial restantes são aqueles de baixo risco.

A classificação de risco dos sistemas de inteligência artificial é determinada com base em critérios como o nível de impacto nos direitos humanos, na segurança e na proteção; a área de utilização do sistema, especialmente áreas essenciais ou diretamente relacionadas ao interesse público; o escopo dos usuários; e a escala de influência do sistema.

O Ministro da Ciência e Tecnologia, Nguyen Manh Hung, apresenta o relatório sobre a aceitação, explicação e revisão do projeto de lei antes da votação na Assembleia Nacional. (Foto: DUY LINH)

Comportamentos proibidos em operações de inteligência artificial

A Lei de Inteligência Artificial também estipula atos proibidos em atividades de inteligência artificial, especificamente:

Explorar ou sequestrar sistemas de inteligência artificial para cometer atos ilegais e infringir os direitos e interesses legítimos de organizações e indivíduos.

Desenvolver, fornecer, implementar ou usar sistemas de inteligência artificial com o objetivo de: cometer atos proibidos por lei; usar pessoas ou eventos reais falsificados ou simulados para enganar ou manipular a percepção e o comportamento humanos de forma intencional e sistemática, causando sérios danos aos direitos humanos e aos interesses legítimos; explorar as vulnerabilidades de grupos vulneráveis, incluindo crianças, idosos, pessoas com deficiência, minorias étnicas ou pessoas com capacidade civil reduzida ou limitada, ou aquelas com dificuldades cognitivas ou problemas de controle comportamental, para prejudicar a si mesmas ou a outros; criar ou disseminar conteúdo falsificado capaz de colocar em grave risco a segurança nacional, a ordem pública e a segurança social.

Coletar, processar ou usar dados para desenvolver, treinar, testar ou operar sistemas de inteligência artificial em violação das leis de dados, proteção de dados pessoais, propriedade intelectual e segurança cibernética.

Obstruir, desativar ou distorcer os mecanismos humanos de monitoramento, intervenção e controle de sistemas de inteligência artificial, conforme estipulado nesta Lei.

Ocultar informações que devem ser divulgadas, tornadas públicas ou explicadas; apagar ou falsificar informações, rótulos ou avisos obrigatórios em operações de inteligência artificial.

Explorar atividades de pesquisa, teste, avaliação ou verificação relacionadas a sistemas de inteligência artificial para praticar atos que violem a lei.

VAN TOAN

Fonte: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html