A fusão de três fundos de ciência e tecnologia ajuda a concentrar recursos.

Em reunião do Grupo 16 (que incluía as delegações da Assembleia Nacional da cidade de Da Nang, da província de Tuyen Quang e da província de Cao Bang) na manhã de 21 de novembro, deputados da Assembleia Nacional afirmaram que a criação do Fundo Nacional de Desenvolvimento da Inteligência Artificial ajudará a promover e apoiar a capacidade de pesquisa, bem como a aplicação da IA ​​no país. Contudo, como já existem outros dois fundos para ciência e tecnologia, é necessário considerar a fusão deles em um fundo comum para concentrar recursos no apoio à pesquisa e à inovação tecnológica, incluindo a IA.

É necessário regulamentar os comportamentos proibidos na pesquisa e aplicação da IA.

A Inteligência Artificial (IA) está se tornando a tecnologia de ponta da Indústria 4.0, abrindo muitas oportunidades para o desenvolvimento socioeconômico . No entanto, ela também apresenta muitos desafios urgentes em gestão, ética e segurança, que as regulamentações legais atuais não abrangem completamente.

Portanto, os deputados da Assembleia Nacional concordaram unanimemente sobre a necessidade de elaborar um projeto de lei sobre Inteligência Artificial para criar um caminho legal inovador para a inteligência artificial, criar um ambiente jurídico favorável para promover a inovação, aumentar a competitividade nacional e, ao mesmo tempo, gerenciar riscos, proteger os interesses nacionais e os direitos humanos.

Discurso do Delegado da Assembleia Nacional Tran Dinh Chung (Cidade de Da Nang ). Foto: Pham Thang

Preocupado com o uso da IA ​​em órgãos estatais, o deputado da Assembleia Nacional Tran Dinh Chung (Da Nang) afirmou que isso ajudará os órgãos, funcionários e servidores públicos a economizar muito tempo, processar o trabalho de forma mais rápida e sincronizada, contribuindo para a melhoria da qualidade do trabalho.

Além dos benefícios em termos de custo e tempo da aplicação da IA ​​em órgãos estatais, os delegados também observaram que existem atualmente muitas questões que precisam ser estudadas mais a fundo e especificadas no projeto de lei.

A primeira preocupação reside na segurança do uso da IA, visto que funcionários públicos e servidores precisam fornecer informações para o treinamento da IA, bem como durante o processo operacional. Portanto, se não houver um gerenciamento rigoroso, existe o risco de dados internos, dados sensíveis ou informações confidenciais do Estado serem inseridos no software de IA, ou de os dados serem usados ​​para fins que não sejam o treinamento da IA. A ausência de regulamentações específicas sobre como, onde e quais os direitos de acesso aos dados também geram preocupação.

Em segundo lugar, concentrar uma grande quantidade de dados de agências estatais em softwares de IA também cria o risco de ataques e roubo de dados por hackers. Em particular, esse risco está aumentando porque as agências estatais não conseguem desenvolver e operar softwares de IA por conta própria, dependendo frequentemente da cooperação com empresas externas. Além disso, o spyware estrangeiro continua a se desenvolver, de modo que o uso da IA ​​também enfrenta o risco de roubo e controle de dados.

Em terceiro lugar, outro risco é a precisão. Isso porque o software de IA também pode produzir resultados imprecisos devido ao aprendizado a partir dos dados disponíveis, podendo herdar vieses ou soluções incorretas tomadas por funcionários públicos no passado. "Dados imprecisos ou incompletos também afetam muito a qualidade da IA", enfatizou o delegado.

Autoridades, funcionários públicos ou cidadãos não possuem as habilidades necessárias para fazer perguntas à IA, o que resulta em respostas limitadas. Além disso, a IA precisa de tempo para atualizar novos documentos legais e novas instruções de órgãos governamentais.

O deputado da Assembleia Nacional Ta Van Ha (cidade de Da Nang) discursa. Foto: Pham Thang

Em quarto lugar, a qualidade da IA ​​atualmente não atende aos requisitos. Alguns modelos de IA são muito complexos, dificultando o controle do processo de análise, o processamento de dados e a explicação do porquê de a IA tomar determinada decisão. Além disso, o problema de erros em algoritmos ou sistemas de IA também leva a falhas.

Além dos requisitos de infraestrutura técnica e recursos humanos para a aplicação de IA em órgãos estatais, o delegado Tran Dinh Chung também observou a necessidade de atenção ao risco de abuso da tecnologia de IA, que pode reduzir as competências dos servidores públicos. Os funcionários podem se dedicar menos à pesquisa por acreditarem que basta implementar a IA em softwares para que ela ajude a responder às suas dúvidas.

“O uso da tecnologia de IA em órgãos estatais é uma tendência inevitável. Mas como utilizá-la para garantir a eficiência do trabalho, ao mesmo tempo que se assegura a segurança e a proteção da informação, é uma questão que vem sendo debatida.” Portanto, o delegado Tran Dinh Chung concordou com a elaboração do projeto de Lei de Inteligência Artificial, mas também sugeriu que a revisão seja continuada para garantir a consistência e a coerência com as leis pertinentes.

Os delegados também propuseram estudar e adicionar uma disposição que regule os comportamentos e atividades proibidos na pesquisa, aplicação e adoção da IA, em vez de os colocar dispersos em várias disposições no projeto de lei, como acontece atualmente, o que dificulta o monitoramento.

Segundo o delegado, definir claramente a responsabilidade legal da IA ​​é crucial para evitar futuros litígios e lidar com eventuais violações. Por outro lado, a IA está intrinsecamente ligada a máquinas e tecnologia, portanto, além dos erros humanos que podem ser atribuídos a ela, também pode haver responsabilidade por máquinas, tecnologia ou outros fatores. Assim, é fundamental realizar pesquisas para definir essas responsabilidades de forma precisa, evitando a confusão sobre a responsabilidade legal, especialmente na aplicação e no uso da IA ​​em órgãos estatais.

É necessário definir claramente a agência responsável pela gestão de riscos nas áreas em questão.

Preocupada com a gestão de sistemas de IA de alto risco estipulada na Seção II, Capítulo II do projeto de lei, a Deputada da Assembleia Nacional Vuong Thi Huong (Tuyen Quang) afirmou que o setor da saúde precisa ser identificado como um dos setores de alto risco na aplicação da inteligência artificial, devido ao seu impacto direto na vida e saúde humanas, em dados pessoais sensíveis e na confiança social. Sistemas de IA que auxiliam no diagnóstico por imagem, tratamento de doenças, cirurgia, análise genética, etc., se não forem submetidos a inspeção, não atenderem aos padrões de segurança ou não houver transparência nos dados de treinamento, podem causar consequências graves, até mesmo irreversíveis.

O Delegado da Assembleia Nacional, Vuong Thi Huong (Tuyen Quang), fala. Foto de : Pham Thang

O projeto de lei estipula a classificação e a gestão de riscos, mas não esclarece a entidade responsável pela gestão em cada área específica. Entretanto, os delegados constataram que, no setor da saúde, se a coordenação geral for atribuída à agência de gestão de tecnologias da informação sem uma definição clara do papel do setor da saúde, isso poderá levar a sobreposições na avaliação, falta de uniformidade nos padrões profissionais e dificuldades na gestão de produtos de inteligência artificial utilizados como dispositivos médicos ou aplicados em exames e tratamentos médicos.

Portanto, propõe-se complementar a regulamentação que atribui ao Ministério da Saúde a responsabilidade pela gestão de sistemas de inteligência artificial de alto risco na área médica, coordenando com o Ministério da Informação e Comunicações e ministérios e departamentos relevantes para: promulgar normas técnicas, avaliação clínica e inspeção de segurança; regulamentos sobre segurança de dados de prontuários médicos e conexão de sistemas de informação médica; e monitorar os riscos durante o uso.

“Definir claramente o ponto focal criará uma base legal sólida, garantirá a segurança do paciente e, ao mesmo tempo, criará condições para que empresas de tecnologia e instalações médicas implementem aplicações de IA de forma transparente e controlada”, enfatizou a delegada Vuong Thi Huong.

Concordando com as disposições sobre o Fundo Nacional de Desenvolvimento da Inteligência Artificial no Artigo 23 do projeto de lei, o Deputado da Assembleia Nacional Be Minh Duc (Cao Bang) afirmou que este fundo foi criado para promover e apoiar a capacidade de pesquisa, bem como a aplicação da IA ​​no país. No entanto, já existem o Fundo Nacional de Desenvolvimento Científico e Tecnológico e o Fundo Nacional de Inovação Tecnológica, que também visam apoiar a pesquisa e a inovação tecnológica, incluindo a IA.

O deputado da Assembleia Nacional Be Minh Duc (Cao Bang) discursa. Foto: Pham Thang

Embora o escopo e o objetivo de cada tipo de fundo sejam diferentes, todos se concentram nas áreas de ciência e tecnologia. Portanto, recomenda-se revisar e determinar a relação entre os tipos de fundos para promover a eficácia de cada um, evitar a duplicação de funções, a dispersão de recursos e o aumento da carga orçamentária.

Mesmo estando sob a gestão do mesmo ministério, os delegados sugeriram que é necessário considerar a fusão desses três tipos de fundos, concentrando recursos para implementar políticas de apoio que promovam um desenvolvimento mais favorável da ciência e da tecnologia.

Além disso, o delegado Be Minh Duc também sugeriu que as leis especializadas pertinentes incluam regulamentações específicas sobre IA em cada área. Este é um princípio que precisa ser regulamentado, pois nosso país está entrando na era digital. A inteligência artificial tem sido amplamente pesquisada e aplicada em todos os setores, em todas as áreas socioeconômicas, de defesa e segurança. A inclusão desse princípio ajudará a garantir uma regulamentação abrangente de questões específicas e a atender às exigências de gestão no contexto do rápido desenvolvimento tecnológico atual.

Fonte: https://daibieunhandan.vn/gop-3-quy-ve-khoa-hoc-cong-nghe-giup-tap-trung-nguon-luc-10396526.html