Transparência dos produtos de inteligência artificial

Atualmente, muitos produtos de inteligência artificial (IA) não divulgam o nível de intervenção tecnológica, dificultando a distinção entre o que é real e o que é falso. Diante desse cenário, definir claramente a obrigação de transparência e rotular os produtos de IA tornou-se uma necessidade urgente.

Estande daFPT sobre aplicações de IA em diversas áreas.

Hoje em dia, desde a criação de conteúdo visual, de áudio e texto até o suporte automatizado à decisão, muitos produtos de IA não são rotulados e são compartilhados como conteúdo comum. A consequência é que os usuários não sabem se estão interagindo com conteúdo gerado por humanos ou por IA e podem acreditar em desinformação ou manipulação.

Por exemplo, um salão de beleza publica um anúncio gerado por IA com a imagem de uma modelo, levando os clientes a acreditarem erroneamente que se trata de um anúncio real. No entanto, ao utilizarem o serviço, descobrem que a qualidade não corresponde ao anunciado. Mais perigoso ainda é a possibilidade de a IA criar fotos falsas de pessoas famosas, vídeos que simulam declarações de políticos ou artigos criados por IA, mas com nomes de pessoas reais, prejudicando a honra pessoal e a reputação de agências e organizações.

Além disso, a falta de um mecanismo de rotulagem reduz a confiança dos usuários em plataformas digitais e produtos de IA. Um ambiente digital que não seja transparente quanto à origem do conteúdo tornará os usuários desconfiados e distantes. Enquanto isso, a maioria dos usuários vietnamitas não tem o hábito de identificar e verificar a origem do conteúdo, e as ferramentas técnicas para detectar produtos de IA são limitadas.

Definir claramente as obrigações de transparência e rotulagem não é apenas uma exigência ética tecnológica, mas também uma base legal para proteger tanto os usuários quanto os desenvolvedores de produtos de IA. Para atender a essa exigência, o Ministério da Ciência e Tecnologia está elaborando a Lei de Inteligência Artificial, cujo Artigo 12 estipula “Transparência, rotulagem e responsabilidade”.

Assim, a rotulagem consiste na aplicação de medidas técnicas para indicar, de forma clara, facilmente reconhecível e legível por máquina, que o conteúdo (texto, imagem, áudio, vídeo) foi criado ou significativamente modificado por sistemas de IA. O aviso deve ser feito quando o conteúdo for amplamente divulgado.

Este regulamento estabelece obrigações de rotulagem obrigatória para produtos criados ou editados por IA, visando tornar o espaço digital transparente, proteger os consumidores e exigir que fornecedores e implementadores sejam corresponsáveis ​​caso a ausência de rotulagem cause confusão ou danos.

Para conteúdo que simula pessoas, objetos, lugares ou eventos reais, o Projeto de Lei estipula que os provedores devem aplicar medidas para identificar claramente que o conteúdo foi criado por IA e garantir a capacidade de autenticar e rastrear sua origem. Isso é considerado um passo importante na gestão da tecnologia de IA, em consonância com as tendências internacionais, visto que a União Europeia (UE), os Estados Unidos, o Japão e a Coreia do Sul já promulgaram regulamentações semelhantes.

Apesar de concordarem com a necessidade, muitos especialistas e empresas acreditam que as normas de rotulagem no Projeto de Lei precisam ser mais específicas. O advogado Hoang Le Quan, do escritório de advocacia Vietnam Commercial Legal Limited Liability Law Firm (Lexcomm Vietnam LLC), acredita que é necessário esclarecer se os fornecedores de IA podem decidir por si mesmos sobre o formato da rotulagem ou se devem seguir as instruções do governo.

Caso existam diretrizes, elas precisam ser claras e garantir a harmonia com os padrões internacionais, evitando que as exigências do Vietnã sejam completamente diferentes ou que criem novas obrigações, especialmente para fornecedores multinacionais, afetando a competitividade do Vietnã na aplicação e desenvolvimento de IA em comparação com outros mercados, como a União Europeia (UE), a Coreia do Sul ou os Estados Unidos.

Algumas opiniões enfatizam a necessidade de definir claramente o escopo e o nível de aplicação, questionando se todo o conteúdo com elementos de IA deve ser rotulado ou apenas os produtos criados inteiramente por IA ou com intervenção significativa. O Sr. Tran Van Tri, Diretor da Vietnam Law Media Joint Stock Company (LuatVietnam.vn), afirmou que, quando o conteúdo utiliza IA apenas em uma pequena parte, é necessário rotulá-lo ou não? É fundamental especificar claramente se a criação foi assistida por IA ou se foi criada inteiramente por IA.

Na indústria do entretenimento, algumas empresas desejam um mecanismo flexível para isentar produtos de IA de obrigações rígidas de rotulagem, aplicando, em vez disso, avisos ou autodeclaração transparente, dependendo do nível de uso. A IA é amplamente utilizada para aprimorar som, imagens e efeitos. Se todos os produtos fossem obrigados a ser rotulados, os custos e os procedimentos aumentariam, prejudicando a criatividade.

O chefe do Ministério da Ciência e Tecnologia afirmou que o Projeto de Lei sobre Inteligência Artificial visa encontrar um equilíbrio razoável entre gestão e incentivo ao desenvolvimento, garantindo transparência, viabilidade e conformidade com os padrões internacionais. O objetivo da rotulagem é esclarecer a fronteira entre conteúdo criado por humanos e conteúdo gerado por máquinas, evitando os extremos de gestão frouxa ou controle excessivo, para que a tecnologia possa ser desenvolvida dentro de uma estrutura transparente e responsável.

HA LINH

Fonte: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html