Concluir o quadro legal para a IA

Em relação à IA, a Assembleia Nacional promulgou a Lei da Indústria de Tecnologia Digital , que inclui um capítulo que regulamenta a IA. Isso fornece uma base legal inicial e fundamentada para o desenvolvimento e a aplicação da IA. No entanto, essas regulamentações ainda não constituíram um arcabouço legal abrangente e suficientemente aberto para facilitar a pesquisa, o desenvolvimento, a implementação e o uso da IA, bem como um ecossistema completo de IA.

Além disso, carecemos de mecanismos para classificar e controlar os riscos dos sistemas de IA; mecanismos para testar, licenciar e monitorar sistemas de IA, especialmente aqueles de alto risco; e mecanismos e políticas para desenvolver e atrair recursos humanos qualificados em IA. Embora a Resolução nº 57-NQ/TW declare claramente a necessidade de "tornar os dados o principal meio de produção" e "desenvolver a economia e o mercado de dados", a coleta, o processamento, o compartilhamento e o uso de dados para o treinamento de modelos de IA enfrentam atualmente muitas dificuldades. A conexão e o compartilhamento de dados entre bancos de dados nacionais e setoriais são lentos e não atendem aos requisitos para o desenvolvimento de sistemas de IA em larga escala.

É importante destacar a falta de mecanismos de responsabilização legal quando a IA causa danos. Essa lacuna jurídica é um dos maiores desafios para lidar com as consequências dos danos induzidos pela IA. A questão é: quando um sistema de IA causa danos, como carros autônomos provocando acidentes ou softwares de diagnóstico médico produzindo resultados incorretos, quem será responsabilizado? O desenvolvedor, o fabricante, o usuário ou o próprio sistema de IA? Sem regulamentações específicas sobre responsabilidade, isso representa um risco significativo para consumidores e empresas que utilizam IA.

Além disso, o rápido desenvolvimento da IA também levanta preocupações sobre riscos de segurança não tradicionais. A tecnologia deepfake está sendo usada indevidamente para criar desinformação, difamar organizações e indivíduos e cometer diversos tipos de fraude. Se essa situação não for controlada por um arcabouço legal suficientemente rigoroso, com penalidades severas, poderá causar instabilidade social.

Para concretizar a visão do Partido e do Estado de que a IA é um avanço de vanguarda para aprimorar a capacidade nacional na era digital, o projeto de Lei sobre Inteligência Artificial, atualmente em desenvolvimento pelo Governo, adota o seguinte princípio fundamental: a lei coloca a humanidade no centro, com o princípio supremo de que a IA serve à humanidade, e não a substitui, e que os humanos supervisionam a IA em decisões cruciais; a IA deve ser transparente, responsável e segura. A Lei sobre Inteligência Artificial gerencia os sistemas de IA com base em níveis de risco, incentiva o desenvolvimento nacional de IA e a autossuficiência em IA, e utiliza a IA como força motriz para um crescimento rápido e sustentável.

Para garantir maior eficiência na gestão e proteger os direitos dos usuários, o projeto de lei estipula responsabilidades para o gerenciamento e tratamento de incidentes de IA. Assim, organizações e indivíduos envolvidos no desenvolvimento, fornecimento, implantação e uso de sistemas de IA são responsáveis por garantir a segurança e a confiabilidade durante a operação do sistema; detectar, prevenir e resolver proativamente incidentes que possam prejudicar pessoas, bens, dados ou a ordem social.

Quando ocorrem falhas técnicas, desvios nos resultados ou comportamentos inesperados em sistemas de IA, os desenvolvedores e fornecedores devem implementar prontamente medidas técnicas para retificar a situação, suspender temporariamente ou recolher o sistema potencialmente prejudicial, e notificar e coordenar com os órgãos de gestão estatal competentes para investigação e resolução do problema. O implementador e os usuários são obrigados a registrar e relatar prontamente os incidentes ao fornecedor e a cooperar com as partes relevantes no processo de retificação. Não lhes é permitido interferir ou modificar o sistema de forma independente sem autorização. Além disso, o projeto de lei também estipula as obrigações dos fornecedores e implementadores em relação a sistemas de IA de alto risco…

A promulgação antecipada da Lei de Inteligência Artificial no Vietnã criará um avanço para a IA, fomentando um ambiente jurídico favorável para promover a inovação, aumentar a competitividade nacional e afirmar a posição do país como uma nação com autossuficiência tecnológica.

Fonte: https://daibieunhandan.vn/hoan-thien-khung-kho-phap-ly-cho-ai-10390839.html