Regulamentações especiais são necessárias para proteger as crianças do lado sombrio da IA.

O Ministro da Ciência e Tecnologia, Nguyen Manh Hung, apresenta o projeto de lei sobre Inteligência Artificial. Foto: QUANG PHUC

O presidente da Comissão de Ciência, Tecnologia e Meio Ambiente da Assembleia Nacional (KHCN-MT), Nguyen Thanh Hai, apresentou o relatório sobre a revisão do projeto de lei, afirmando que a Comissão concordou com a necessidade de promulgar a Lei de Inteligência Artificial no contexto do notável desenvolvimento da IA. Juntamente com o rápido desenvolvimento, a aplicação cada vez mais ampla e os impactos positivos, a IA também apresenta muitos desafios em termos de economia , sociedade, segurança e proteção, além de riscos potenciais difíceis de prever.

O Comitê de Ciência, Tecnologia e Meio Ambiente recomenda que o órgão responsável pela redação continue a revisar e avaliar com mais cuidado o nível de institucionalização das políticas e orientações do Partido, especialmente no que diz respeito ao desenvolvimento da IA para os seres humanos e ao desenvolvimento sustentável; desenvolva fortemente aplicações de IA baseadas em big data para setores e áreas importantes; atraia, contrate e retenha cientistas , especialistas e engenheiros-chefes de ponta, tanto nacionais quanto estrangeiros, para o desenvolvimento de tecnologia de IA...

Các đại biểu dự phiên họp sáng 21-11.jpg — Delegados presentes na reunião matinal de 21 de novembro. Foto: QUANG PHUC

Em relação à política estatal sobre inteligência artificial, a Comissão de Ciência, Tecnologia e Meio Ambiente propôs a inclusão de alguns pontos, especificamente a promoção de testes controlados de tecnologias avançadas de IA, porém com riscos potenciais; pontos: O Estado garante o acesso a big data de alta qualidade para o treinamento de modelos de IA; O Estado possui um mecanismo para atrair e recompensar especialistas, orientando a formação de recursos humanos de acordo com as necessidades do mercado; O Estado adota uma política de formação aprofundada e popularização de conhecimentos e habilidades digitais básicas, bem como de ética em IA para servidores públicos, cidadãos, especialmente crianças, para que utilizem a IA com segurança.

O presidente da Comissão de Ciência, Tecnologia e Meio Ambiente da Assembleia Nacional, Nguyen Thanh Hai, apresenta um relatório sobre a revisão do projeto de lei de Inteligência Artificial. Foto: QUANG PHUC

Em relação ao mecanismo de testes controlados para IA, a Comissão reconhece que os testes são uma etapa inevitável no desenvolvimento de produtos, especialmente para sistemas de IA novos e de alto risco. Permitir testes controlados é necessário para promover a inovação. Portanto, é necessário estudar e complementar o mecanismo de isenção de responsabilidade por riscos decorrentes do processo de testes, quando organizações e indivíduos cumprirem as regulamentações.

Contudo, o mecanismo de testes controlados já foi regulamentado na Lei de Ciência, Tecnologia e Inovação, no projeto de Lei de Transformação Digital e nos documentos orientadores sobre ambientes de teste (sandboxes). Portanto, para evitar duplicação, propõe-se que esta lei regule apenas o conteúdo específico dos testes para sistemas de IA; ao mesmo tempo, concentre-se no mecanismo de pós-inspeção, avalie os resultados dos testes e assegure a simplificação dos procedimentos administrativos.

Para grupos vulneráveis, como crianças, o Comitê acredita que a IA também apresenta desvantagens preocupantes, como a dependência excessiva da IA para encontrar respostas ou resolver exercícios, o que faz com que as crianças percam a oportunidade de praticar o pensamento independente, a análise e a criatividade; fiquem propensas a comportamentos desviantes; possam confundir a IA com um amigo verdadeiro e agir de acordo com conselhos inadequados ou perigosos; sejam manipuladas ou enganadas.

A agência de inspeção citou experiências de outros países, mostrando que a lei italiana sobre IA estipula que menores de 14 anos só podem usar IA com o consentimento dos pais ou responsáveis; segundo uma proposta recente, na UE, os usuários devem ter mais de 16 anos para usar IA sem o consentimento dos pais; a Lei de Controle de Chatbots de IA do Estado da Califórnia (EUA) estipula que as plataformas de IA devem notificar claramente os usuários menores de 18 anos a cada 3 horas de que estão conversando com um chatbot e não com um humano.

Portanto, o Comitê recomenda que o órgão responsável pela elaboração da legislação estude e complemente regulamentações específicas para proteger as crianças dos aspectos negativos da IA, orientando-as a usar a IA de forma segura e saudável, e promovendo o papel e a responsabilidade dos pais e das escolas no monitoramento e na conscientização das crianças sobre a IA.

PHAN THAO

Fonte: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html