Conselho de especialista: Não se apresse em legalizar a IA.

(NLDO) - O workshop atraiu a atenção de pesquisadores, professores, estudantes e especialistas na área de tecnologia e direito.

No dia 7 de outubro, a Universidade de Economia e Direito (VNU-HCM), em parceria com o Jornal Jurídico da Cidade de Ho Chi Minh, organizou uma conferência científica com o tema "Inteligência Artificial e Direito: Experiência internacional e algumas sugestões para o Vietnã".

É preciso flexibilidade em vez de uma "estrutura rígida".

Durante o workshop, o Professor Associado Dr. Ngo Huu Phuoc, Vice-Reitor responsável pela Faculdade de Direito Econômico da Universidade de Economia e Direito, apresentou um artigo sobre o impacto da inteligência artificial (IA) no sistema jurídico, a experiência legislativa de países ao redor do mundo e sugestões de políticas para o Vietnã.

O Professor Associado, Dr. Ngo Huu Phuoc, Vice-Reitor responsável pela Faculdade de Direito Econômico da Universidade de Economia e Direito, apresentou seu discurso. Foto: Comissão Organizadora

Segundo o Sr. Phuoc, a China é um dos países com uma abordagem notável à governança da IA. O país aplica um modelo multicamadas, combinando leis básicas como a Lei de Segurança Cibernética (2017), a Lei de Segurança de Dados (2021) e a Lei de Proteção de Informações Pessoais (2021) com regulamentações especializadas, normas locais e padrões técnicos de natureza "soft law". Essa abordagem permite à China tanto governar rigorosamente quanto criar condições para testes de tecnologia dentro do escopo de controle.

As principais vantagens são a velocidade e a flexibilidade, permitindo ajustes rápidos nas políticas de acordo com as práticas tecnológicas, ao mesmo tempo que promovem o desenvolvimento de um ecossistema de IA robusto. No entanto, esse modelo também apresenta limitações em termos de privacidade, sobreposição de leis e o risco de sufocar a inovação devido à intervenção de um Estado profundo.

Com base na experiência internacional, o Professor Associado Dr. Ngo Huu Phuoc acredita que o Vietnã ainda não deve promulgar uma lei específica sobre IA no momento atual. O motivo é que o ecossistema de IA no país ainda não está maduro o suficiente para ser regulamentado. Além disso, uma "estrutura legal rígida" dificultaria a inovação. Por outro lado, os recursos de gestão estatal ainda são limitados.

Em vez disso, ele propôs a publicação de um arcabouço ético para IA (código de conduta) para orientar o comportamento e o desenvolvimento responsáveis; a criação de um ambiente de testes controlados para IA; e a alteração e complementação das leis existentes para integrar as regulamentações relacionadas à IA ao sistema jurídico vigente.

De acordo com especialistas, essas orientações ajudarão o Vietnã a aproveitar as oportunidades da IA ​​de forma flexível, segura e de acordo com as condições reais do país.

Quando a IA bate à porta do hospital

Segundo o Professor Associado Dr. Le Minh Khoi, Chefe do Departamento de Ciência e Treinamento do Hospital Universitário de Medicina e Farmácia da Cidade de Ho Chi Minh, em comparação com áreas como economia ou comunicação, a IA na medicina desenvolveu muitos modelos avançados. No entanto, a aplicação prática ainda é cautelosa. "Os médicos ainda estão explorando se a IA é uma 'amiga' ou uma 'inimiga'", compartilhou o Professor Associado Dr. Le Minh Khoi.

Segundo o Professor Associado, Dr. Le Minh Khoi, a introdução da IA ​​na área médica apresenta uma série de riscos potenciais, como segurança e privacidade de dados, viés em algoritmos e questões éticas, além de problemas de segurança, responsabilidade e transparência.

Um dos grandes riscos é a “ilusão” da IA. Se ocorrerem erros em um sistema amplamente implementado, as consequências podem afetar milhares de pacientes. A questão da responsabilidade também é espinhosa: se a IA causar erros no diagnóstico ou tratamento, quem é o responsável – o médico que utiliza o sistema, o desenvolvedor do sistema, o distribuidor, o hospital ou o órgão regulador?

Cena da conferência - Foto: Comissão Organizadora

Além disso, se os médicos dependerem demais da IA, podem perder a capacidade de pensar e fazer julgamentos clínicos, e gradualmente perder a habilidade de detectar e corrigir erros, sendo a supervisão humana um fator indispensável. Ademais, a mentalidade conservadora, o medo de perder o emprego ou a falta de conhecimento tecnológico também fazem com que muitos profissionais da saúde hesitem em adotar a IA.

Em relação aos desafios legais, o Professor Associado Dr. Le Minh Khoi comentou que a velocidade do desenvolvimento da IA ​​está atualmente muito além da capacidade do sistema regulatório de regulamentá-la. A tecnologia avança rápido demais, enquanto as regulamentações são lentas, o que nos coloca em uma situação "sufocante" entre dois extremos: se endurecermos as regras, sufocaremos a inovação, mas se as afrouxarmos, será arriscado para os pacientes. Além disso, a infraestrutura de dados médicos no Vietnã ainda é fragmentada, inconsistente e de qualidade variável, o que dificulta o treinamento e o teste de modelos de IA.

O Sr. Khoi concluiu que a IA representa uma grande oportunidade para a indústria médica, mas também um teste à capacidade de adaptação, à mente aberta e à responsabilidade humanas na era digital.

Fonte: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm