Projeto de Lei sobre Inteligência Artificial: A IA na medicina deve ser inspecionada como os dispositivos médicos.

Considerando que a área da saúde é um campo sensível e de alto risco que precisa ser rigorosamente controlado, incluindo a aplicação da IA, alguns participantes sugeriram que o projeto de Lei sobre Inteligência Artificial deveria estudar regulamentações que determinem que a IA na área da saúde seja inspecionada da mesma forma que os dispositivos médicos.

Cena da sessão de discussão no auditório sobre o projeto de lei de Inteligência Artificial.

Gerenciamento de produtos de IA para a área da saúde

Como delegada atuante no setor da saúde, a Deputada da Assembleia Nacional Tran Khanh Thu ( Hung Yen ) elogiou bastante os impactos da inteligência artificial (IA) no setor da saúde – uma das áreas com maior potencial para aplicação da IA, com impactos claros nos processos de diagnóstico, tratamento, gestão de pacientes, bem como na pesquisa e desenvolvimento farmacêutico.

Recentemente, porém, uma paciente de 55 anos na cidade de Ho Chi Minh foi levada ao pronto-socorro em estado letárgico e inconsciente do que acontecia ao seu redor. A filha da paciente relatou que já havia visto a mãe tonta e com dificuldade para respirar, então solicitou um exame de inteligência artificial para diagnosticá-la. Os resultados mostraram que ela tinha pressão alta.

O deputado da Assembleia Nacional, Tran Khanh Thu (Hung Yen), discursa.

O delegado relatou que o filho mediu a pressão arterial da mãe e constatou um aumento significativo, então foi à farmácia comprar remédio para ela. Porém, após a administração do medicamento, o estado da mãe piorou: ela ficou exausta, vomitou muito e perdeu a consciência, sendo levada ao pronto-socorro. No hospital, o médico confirmou que a paciente havia sofrido danos cerebrais e um AVC. Embora tenha escapado da fase crítica, as consequências eram inevitáveis.

O delegado afirmou categoricamente que a internet é muito popular hoje em dia, especialmente a IA, sendo uma excelente fonte de informação para pacientes que desejam aprender mais sobre suas doenças... No entanto, as pessoas não podem, de forma alguma, usar os resultados para pesquisar, diagnosticar ou prescrever medicamentos por conta própria — e será que quem vende medicamentos com base em prescrições de IA está infringindo a lei? — questionou o delegado.

O delegado também salientou que não temos um quadro legal específico e completo para a aplicação da IA ​​na área da saúde. Embora leis como a Lei de Exames e Tratamentos Médicos ou a Lei de Farmácia regulamentem as atividades de exames e tratamentos médicos e os produtos médicos, as regulamentações específicas sobre produtos que utilizam IA na medicina ainda não estão claras.

Além disso, os produtos de exame e tratamento médico baseados em IA ainda estão sujeitos a procedimentos gerais de licenciamento para dispositivos médicos, não havendo padrões e regulamentações específicos de IA para esses produtos.

Delegados presentes na sessão de discussão

“Além disso, algumas questões, como a responsabilidade legal em caso de erros de IA, a segurança dos dados médicos e a segurança do paciente, não estão claramente regulamentadas nos documentos legais atuais”, enfatizou o delegado.

Com base na realidade acima descrita, o delegado Tran Khanh Thu espera que o projeto de lei sobre Inteligência Artificial contenha disposições, termos e marcos legais mais específicos para a gestão de produtos de IA na área da saúde, especialmente no que diz respeito às responsabilidades das partes envolvidas.

Considerando que a área da saúde é sensível e de alto risco, o controle rigoroso da aplicação da IA ​​é essencial. O deputado da Assembleia Nacional, Le Van Kham (Cidade de Ho Chi Minh), sugeriu que é necessário estudar as regulamentações e que a IA na saúde deve ser inspecionada como os dispositivos médicos. Existem categorias de inspeção obrigatórias quando a IA auxilia na tomada de decisões clínicas, tais como: diagnóstico por IA, previsão de risco de morte ou complicações por IA, robôs cirúrgicos com IA e auxílio na prescrição ou no regime de tratamento por IA.

Além disso, os delegados sugeriram que deveria haver regulamentações para monitorar a circulação da IA ​​na área da saúde, a fim de garantir a segurança do paciente, como regulamentações sobre relatórios periódicos, alerta rápido de incidentes, auditoria de algoritmos e monitoramento de erros em tempo real. Quando houver regulamentações fundamentadas nesta lei, a autoridade competente emitirá documentos complementares para implementá-las, bem como desenvolverá ferramentas de gestão e medidas adequadas na governança da IA ​​médica.

Vista da reunião. Foto: Quang Khanh

Ao mesmo tempo, a agência responsável pela redação do projeto de lei precisa considerar cuidadosamente a possibilidade de permitir que os fornecedores classifiquem os riscos da IA ​​na medicina de forma autônoma, conforme estipulado no Artigo 9º do projeto, sugeriu o delegado Le Van Kham.

Avaliando o impacto nos dados de implantações de IA de alto risco

Ao enfatizar que a classificação de risco é a essência da Lei de Inteligência Artificial, o deputado da Assembleia Nacional Thach Phuoc Binh (Vinh Long) observou que o projeto de lei ainda não apresentou critérios quantitativos para essa classificação. A lista de sistemas de IA de alto risco está sendo regulamentada de forma relativamente ampla, incluindo áreas onde, na prática, não se observaram riscos significativos. Isso pode gerar encargos desnecessários de conformidade, especialmente para pequenas e médias empresas.

O deputado da Assembleia Nacional Thach Phuoc Binh (Vinh Long) discursa. Foto: Pham Thang

Portanto, os delegados sugeriram que é necessário revisar a lista de alto risco para focar apenas em sistemas que possam ter um impacto significativo sobre os direitos humanos, a privacidade, a saúde, as finanças e a segurança social. Ao mesmo tempo, deve-se estabelecer um mecanismo para atualizar a lista de alto risco de forma flexível, com base em consultas a especialistas, associações do setor e organizações de pesquisa. Devem ser atribuídos critérios de risco às características técnicas do modelo, como automação, capacidade de autoaprendizagem, imprevisibilidade e escala de uso.

Em relação a dados, privacidade e proteção do usuário, o delegado Thach Phuoc Binh afirmou que os dados são o "combustível" da IA, mas as disposições atuais do projeto de lei não estão em consonância com a Lei de Proteção de Dados Pessoais. É necessário esclarecer o nível de processamento permitido para dados sensíveis, dados de crianças e dados biométricos. Ao mesmo tempo, é necessário adicionar a obrigação de avaliar o impacto dos dados ao implantar IA de alto risco.

Para os usuários de IA, o projeto de lei menciona alguns direitos básicos, mas ainda carece de direitos importantes de acordo com os padrões internacionais, como o direito de recusar decisões totalmente automatizadas ou o direito de solicitar explicações. Esses são direitos muito importantes para ajudar as pessoas a não serem prejudicadas por decisões baseadas em IA nas áreas de finanças, seguros, saúde ou recrutamento de mão de obra.

O Ministro da Ciência e Tecnologia, Nguyen Manh Hung, explica as opiniões dos deputados da Assembleia Nacional durante a reunião. Foto: Ho Long

O delegado destacou que deepfakes, falsificação de voz, imagem e vídeo causaram muitos incidentes que afetam seriamente a segurança e a privacidade da informação. O Artigo 9º do projeto de lei estipula a rotulagem de resultados de IA, mas ainda é necessário esclarecer alguns pontos, como: que tipos de conteúdo devem ser rotulados, qual o nível de rotulagem necessário para proteger os usuários sem prejudicar a experiência digital e a responsabilidade das plataformas de redes sociais na detecção e remoção de conteúdo falso. A criação de um mecanismo de rotulagem rigoroso, porém flexível, é um fator extremamente necessário.

O delegado também observou que o sistema de avaliação da conformidade é um dos conteúdos mais técnicos do projeto de lei. No entanto, se projetarmos o mecanismo de pré-inspeção de forma excessivamente complexa, podemos, involuntariamente, dificultar a inovação.

Portanto, o delegado Thach Phuoc Binh propôs exigir certificação apenas para sistemas de alto risco, permitindo a autoavaliação para sistemas de baixo e médio risco. Isso garante um processo de avaliação claro e transparente, evitando a criação de um mecanismo de solicitação e concessão.

Fonte: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html