Necessidade urgente de controlar o conteúdo de IA

É necessário estabelecer critérios para limitar o conteúdo que os usuários podem criar com IA, forçando uma rotulagem clara.

Nos últimos anos, a inteligência artificial (IA) desenvolveu-se e aprimorou-se continuamente a uma velocidade vertiginosa, tornando-se uma ferramenta de apoio fundamental em diversas áreas. O Veo3, uma tecnologia de criação de vídeos que utiliza IA e foi desenvolvida recentemente pelo Google DeepMind, é capaz de criar filmagens extremamente realistas. Além das vantagens para os usuários, essa ferramenta também apresenta o desafio do risco de ser explorada por criminosos para fins fraudulentos.

É difícil distinguir entre o real e o falso.

Segundo especialistas do mundo da tecnologia, o Veo3 causou grande impacto global devido ao seu recurso de criação de vídeos com IA, que oferece um nível de realismo superior a qualquer ferramenta anterior. Ao contrário do Sora, da OpenAI, que se destaca apenas na imagem, mas apresenta limitações no áudio, o Veo3 sincroniza perfeitamente imagens, sons ambientes e diálogos. De passos e vento a vozes humanas e efeitos sonoros, tudo se combina de forma harmoniosa, atingindo um nível de realismo que torna difícil para os usuários distinguirem entre vídeos reais e aqueles criados por IA.

No Vietnã, a Veo3 rapidamente se tornou uma febre nas redes sociais como TikTok, Facebook e YouTube Shorts. Uma série de vídeos com a hashtag #veo3 foi compartilhada em uma velocidade vertiginosa, atraindo milhões de visualizações e centenas de milhares de interações. Muitos vídeos criados por IA surpreenderam a comunidade online devido ao seu incrível nível de autenticidade. Por exemplo, um vídeo de 8 segundos com um diálogo simples alcançou 5 milhões de visualizações e mais de 308 mil curtidas. Outro vídeo, que mostrava uma senhora idosa fritando ovos, também criado inteiramente por IA, alcançou mais de 2,6 milhões de visualizações e mais de 104 mil curtidas.

O Sr. Tran Vinh Khang, funcionário de escritório no Distrito 1 da Cidade de Ho Chi Minh, relatou que mal conseguia distinguir entre o real e o falso, pois o nível de realismo era muito alto. "Vi um vídeo de um vendedor de peixe conversando com clientes no mercado e achei que fosse real, porque a imagem era muito nítida. O jeito como ele acenava com a mão, levantava as sobrancelhas, a luz do sol brilhando em seu rosto, tudo era tão natural que era inacreditável que tivesse sido criado por inteligência artificial", disse o Sr. Khang.

Nas imagens do filme criado pela Veo3, os usuários têm dificuldade em distinguir entre o real e o falso.

Embora tenha admitido estar impressionada, a Sra. Nguyen Mai Anh (residente na Cidade de Ho Chi Minh) expressou preocupação com a segurança da informação. "O vídeo criado pela Veo3 é tão realista que me deixa insegura. Se pessoas mal-intencionadas usarem essa tecnologia para criar vídeos com o objetivo de caluniar, difamar ou falsificar provas, as consequências serão muito graves", declarou a Sra. Anh.

Muitos usuários vietnamitas estão particularmente interessados ​​em como acessar e usar o Veo3. No entanto, o Veo3 foi oficialmente implementado pelo Google apenas no mercado americano, por meio do pacote de assinatura Google AI Ultra, com uma taxa de US$ 249,99 por mês. Diante dessa limitação, a comunidade online vietnamita encontrou uma maneira de "contornar a barreira" para experimentá-lo. Muitas pessoas compartilham dicas sobre como usar uma VPN para alterar o IP para um endereço nos EUA e, a partir daí, registrar uma conta do Google em uma região compatível para ativar e usar o Veo3 como um usuário local. De acordo com especialistas em segurança, essa também é uma brecha que pessoas mal-intencionadas podem explorar para realizar atividades ilícitas.

É necessário um quadro legal para a IA.

O Sr. Le Hong Duc, fundador da OneAds Digital Company Limited, afirmou que produtos gerados por IA, como vídeos, imagens e vozes, estão atingindo um nível de realismo impressionante, podendo inclusive ser produzidos e comercializados diretamente. Essa explosão traz benefícios claros em termos de custo e tempo, mas também pode ser explorada para disseminar informações falsas ou causar confusão pública. Diante da crescente complexidade dos modelos de IA, o controle de conteúdo torna-se urgente, especialmente quando a tecnologia avança muito mais rápido do que a atualização das leis vigentes.

Portanto, o Sr. Duc propôs que é urgente desenvolver uma lei específica para IA, que defina claramente as responsabilidades daqueles que criam e compartilham conteúdo gerado por IA. Atos de disseminação de conteúdo falso e tóxico devem ser punidos e tratados com rigor. Ao mesmo tempo, as autoridades precisam estabelecer critérios para limitar o conteúdo que os usuários podem criar com IA e exigir rótulos claros. Caso não sejam implementados corretamente, os usuários deverão arcar com a responsabilidade legal e indenizar por quaisquer danos causados. "A criação de um arcabouço legal específico para IA é extremamente urgente para controlar essa tecnologia em rápido desenvolvimento, contribuindo para a manutenção de um ambiente digital saudável e prevenindo consequências como fraudes, violações éticas ou atos de ofensa a terceiros", enfatizou o Sr. Duc.

Além das preocupações legais, um especialista em segurança da informação compartilhou que o desenvolvimento excepcional do Veo3 também gera preocupação entre os criadores de conteúdo, especialmente em áreas como cinema, televisão e animação, que correm o risco de serem gradualmente substituídas pela tecnologia de IA, representando um grande desafio para a proteção de carreiras e direitos autorais na indústria criativa. "É necessário adicionar em breve regulamentações sobre direitos de propriedade intelectual para conteúdo gerado por IA, porque a IA agora é capaz de produzir produtos altamente realistas. Caso contrário, os criadores enfrentarão o risco de perder seus empregos devido à onda de obras virtuais que inunda o mercado", disse o especialista.

Cuidado com serviços que se fazem passar por outros.

Desde que o Veo3 se popularizou, muitas contas nas redes sociais, alegando serem "especialistas em IA", começaram a compartilhar vídeos de demonstração, instruções sobre como acessar o Veo3 ou a vender contas e serviços de suporte por preços que variam de 200.000 a 300.000 VND. Alguns usuários afirmaram ter conseguido acessar e testar o serviço, mas nem todos tiveram a mesma experiência. O Sr. Le Hong Duc alertou os usuários para que tomem cuidado com serviços falsos ou não oficiais e recomendou aguardar o lançamento oficial do Veo3 pelo Google no mercado vietnamita para evitar fraudes financeiras, roubo de dados ou a tomada de controle de contas do Google.

Fonte: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm