Conselho de especialista: não tenha pressa em legalizar a IA

(NLDO) - O workshop atraiu a atenção de pesquisadores, professores, estudantes e especialistas na área de tecnologia e direito.

Em 7 de outubro, a Universidade de Economia e Direito (VNU-HCM) coordenou com o Jornal Jurídico da Cidade de Ho Chi Minh para organizar uma conferência científica com o tema "IA e Direito: Experiência internacional e algumas sugestões para o Vietnã".

Precisa de flexibilidade em vez de "estrutura rígida"

Falando no workshop, o Professor Associado Dr. Ngo Huu Phuoc, Vice-Reitor responsável pela Faculdade de Direito Econômico da Universidade de Economia e Direito, apresentou um artigo sobre o impacto da inteligência artificial (IA) no sistema jurídico, a experiência legislativa de países ao redor do mundo e sugestões de políticas para o Vietnã.

O Professor Associado, Dr. Ngo Huu Phuoc, Vice-Reitor responsável pela Faculdade de Direito Econômico da Universidade de Economia e Direito, apresentou seu trabalho. Foto: Comissão Organizadora

Segundo o Sr. Phuoc, a China é um dos países com uma abordagem notável à governança da IA. O país aplica um modelo multicamadas, combinando leis básicas como a Lei de Segurança Cibernética (2017), a Lei de Segurança de Dados (2021) e a Lei de Proteção de Informações Pessoais (2021) com regulamentações especializadas, regulamentações locais e padrões técnicos de natureza "soft law". Essa abordagem ajuda a China a governar com rigor e a criar condições para testes de tecnologia dentro do escopo de controle.

As principais vantagens são a rapidez e a flexibilidade, permitindo ajustes rápidos de políticas de acordo com as práticas tecnológicas, ao mesmo tempo em que promove o desenvolvimento de um ecossistema de IA robusto. No entanto, esse modelo também expõe limitações em termos de privacidade, sobreposição jurídica e o risco de sufocar a inovação devido à intervenção profunda do Estado.

Com base na experiência internacional, o Professor Associado Dr. Ngo Huu Phuoc acredita que o Vietnã ainda não deveria promulgar uma lei específica sobre IA no estágio atual. A razão é que o ecossistema doméstico de IA ainda não está maduro o suficiente para ser legalizado. Ao mesmo tempo, um "quadro legal rígido" dificultará a inovação. Por outro lado, os recursos de gestão estatal ainda são limitados.

Em vez disso, ele propôs emitir uma estrutura ética de IA (código de conduta) para orientar o comportamento e o desenvolvimento responsáveis; construir uma área restrita de IA para permitir testes controlados; e alterar e complementar as leis existentes para integrar regulamentações relacionadas à IA ao sistema legal existente.

Segundo especialistas, essas orientações ajudarão o Vietnã a aproveitar as oportunidades da IA ​​de forma flexível, segura e de acordo com as condições reais do país.

Quando a IA bate à porta do hospital

De acordo com o Professor Associado, Dr. Le Minh Khoi – Chefe do Departamento de Ciência e Treinamento do Hospital Universitário de Medicina e Farmácia da Cidade de Ho Chi Minh, em comparação com áreas como economia ou comunicação, a IA na medicina foi desenvolvida com muitos modelos avançados. No entanto, a aplicação prática ainda é cautelosa. "Os médicos ainda estão no processo de explorar se a IA é uma 'amiga' ou uma 'inimiga'", compartilhou o Professor Associado, Dr. Le Minh Khoi.

De acordo com o professor associado, Dr. Le Minh Khoi, trazer a IA para a área médica apresenta uma série de riscos potenciais, como segurança e privacidade de dados, preconceito em algoritmos e ética, questões de segurança, responsabilidade e transparência...

Um dos grandes riscos é a "ilusão" da IA. Se ocorrerem erros em um sistema amplamente implantado, as consequências podem afetar milhares de pacientes. A questão da responsabilidade também é delicada: se a IA causar erros no diagnóstico ou tratamento, quem é o responsável – o médico que utiliza o sistema, o desenvolvedor do sistema, o distribuidor, o hospital ou o órgão regulador?

Cena da conferência - Foto: Comitê Organizador

Além disso, se os médicos confiarem demais na IA, poderão perder a capacidade de pensar e fazer julgamentos clínicos, e gradualmente perder a capacidade de detectar e corrigir erros, enquanto a supervisão humana continua sendo um fator indispensável. Além disso, a mentalidade conservadora, o medo de perder o emprego ou a falta de conhecimento de tecnologia também fazem com que muitos profissionais médicos hesitem em recorrer à IA.

Em relação aos desafios legais, o Professor Associado Dr. Le Minh Khoi comentou que a velocidade do desenvolvimento da IA ​​está atualmente muito além da capacidade do sistema regulatório de regular. A tecnologia avança muito rápido, enquanto as regulamentações são lentas, o que nos leva a cair em uma situação "sufocante" entre dois extremos: se a restringirmos, sufocaremos a inovação, mas se a afrouxarmos, será arriscado para os pacientes. Além disso, a infraestrutura de dados médicos no Vietnã ainda é fragmentada, inconsistente e de qualidade irregular, dificultando o treinamento e o teste de modelos de IA.

O Sr. Khoi concluiu que a IA é uma grande oportunidade para a indústria médica, mas também um teste de adaptabilidade humana, mente aberta e responsabilidade na era digital.

Fonte: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm