Há uma necessidade urgente de controlar o conteúdo de IA.

Nos últimos anos, a inteligência artificial (IA) desenvolveu-se e aprimorou-se continuamente a um ritmo vertiginoso, tornando-se uma ferramenta poderosa que auxilia diversas áreas. O Veo3 – uma tecnologia de criação de vídeos com IA desenvolvida recentemente pelo Google DeepMind – é capaz de produzir imagens incrivelmente realistas. No entanto, além dos benefícios para o usuário, essa ferramenta também apresenta um desafio em relação ao risco de ser explorada por agentes maliciosos para fins fraudulentos.

É difícil distinguir entre o genuíno e o falso.

Segundo especialistas em tecnologia, o Veo3 se tornou uma sensação global devido às suas capacidades de criação de vídeos com IA, ostentando um nível de realismo muito superior às ferramentas disponíveis anteriormente. Ao contrário do Sora, da OpenAI, que se destaca nos visuais, mas é limitado no áudio, o Veo3 sincroniza perfeitamente imagens, sons ambientes e diálogos. De passos e vento a palavras faladas e efeitos sonoros, tudo se mistura de forma impecável, atingindo um nível de realismo tão impressionante que torna difícil para os usuários distinguirem entre vídeos reais e aqueles criados por IA.

No Vietnã, a Veo3 rapidamente se tornou uma sensação em plataformas de mídia social como TikTok, Facebook e YouTube Shorts. Inúmeros vídeos com a hashtag #veo3 foram compartilhados em uma velocidade impressionante, atraindo milhões de visualizações e centenas de milhares de interações. Muitos vídeos gerados por IA surpreenderam a comunidade online com seu realismo inacreditável. Por exemplo, um vídeo de 8 segundos com uma simples frase de diálogo alcançou 5 milhões de visualizações e mais de 308 mil curtidas. Outro vídeo, criado inteiramente por IA, mostrando uma senhora idosa fritando ovos, também obteve mais de 2,6 milhões de visualizações e mais de 104 mil curtidas.

O Sr. Tran Vinh Khang, funcionário de escritório no Distrito 1, na cidade de Ho Chi Minh, relatou que mal conseguia distinguir entre vídeos reais e falsos devido ao seu extremo realismo. "Vi um vídeo de um vendedor de peixe conversando com um cliente no mercado e achei que fosse real porque a imagem era muito nítida. O jeito como ele acenava, levantava as sobrancelhas, a luz do sol em seu rosto — tudo era tão natural que eu não conseguia acreditar que havia sido criado por inteligência artificial", disse o Sr. Khang.

Cấp bách kiểm soát nội dung AI - Ảnh 1. — As imagens do vídeo criado pela Veo3 dificultam a distinção entre reais e falsas por parte dos usuários.

Embora tenha reconhecido sua admiração, a Sra. Nguyen Mai Anh (moradora da Cidade de Ho Chi Minh) expressou preocupação com a segurança da informação. "Os vídeos criados pela Veo3 são tão realistas que me deixam desconfortável. Se pessoas mal-intencionadas usarem essa tecnologia para criar vídeos difamatórios, caluniar ou fabricar provas, as consequências serão muito graves", afirmou a Sra. Anh.

Muitos usuários vietnamitas estão particularmente interessados em como acessar e usar o Veo3. No entanto, o Veo3 foi lançado oficialmente pelo Google apenas no mercado americano, por meio do pacote de assinatura Google AI Ultra, ao custo de US$ 249,99 por mês. Diante dessa limitação, a comunidade online vietnamita tem buscado maneiras de contornar as restrições para experimentá-lo. Muitas pessoas compartilham dicas sobre o uso de VPNs para alterar seu endereço IP para os EUA, registrando assim uma conta do Google em uma região compatível para ativar e usar o Veo3 como usuário local. De acordo com especialistas em segurança, essa também é uma vulnerabilidade que agentes maliciosos podem explorar para fins nefastos.

É necessário um quadro legal para a IA.

O Sr. Le Hong Duc, fundador da OneAds Digital Co., Ltd., afirmou que produtos gerados por IA, como vídeos, imagens e vozes, estão atingindo um nível de realismo impressionante, podendo inclusive ser diretamente colocados em produção e comercializados. Esse crescimento traz benefícios claros em termos de custo e tempo, mas também pode ser explorado para disseminar desinformação ou causar pânico público. No contexto de modelos de IA cada vez mais complexos, o controle de conteúdo torna-se crucial, especialmente porque a tecnologia ultrapassou em muito o ritmo das atualizações legais atuais.

Portanto, o Sr. Duc propôs a necessidade urgente de desenvolver uma lei específica para IA, definindo claramente as responsabilidades daqueles que criam e compartilham conteúdo gerado por IA. Atos de disseminação de conteúdo enganoso, prejudicial ou tóxico devem ser severamente punidos. Ao mesmo tempo, as autoridades precisam estabelecer critérios que limitem o conteúdo que os usuários podem criar utilizando IA e exigir rotulagem clara. O descumprimento resultará em responsabilidade legal e indenização por danos. "A criação de um arcabouço legal específico para IA é extremamente urgente para controlar essa tecnologia em rápido desenvolvimento, contribuindo para a manutenção de um ambiente digital saudável e prevenindo consequências negativas como fraudes, violações éticas ou comportamentos ofensivos", enfatizou o Sr. Duc.

Além das preocupações legais, um especialista em segurança da informação compartilhou que o rápido desenvolvimento do Veo3 também está causando preocupação entre os criadores de conteúdo, especialmente em áreas como cinema, televisão e animação, que correm o risco de serem gradualmente substituídas pela tecnologia de IA, representando um grande desafio para a proteção de profissões e direitos autorais na indústria criativa. "Regulamentações sobre direitos de propriedade intelectual para conteúdo gerado por IA precisam ser adicionadas em breve, porque a IA agora pode produzir produtos altamente realistas. Caso contrário, os criadores enfrentarão o risco de perder seus empregos em meio à onda de obras virtuais que inunda o mercado", disse o especialista.

Cuidado com serviços fraudulentos.

Desde o lançamento do Veo3, muitas contas em plataformas de mídia social que se dizem "especialistas em IA" começaram a compartilhar vídeos de demonstração, tutoriais sobre como acessar o Veo3 ou a vender contas e serviços de suporte por 200.000 a 300.000 VND. Alguns usuários relataram ter conseguido acessar e testar o serviço, mas nem todos tiveram essa experiência. O Sr. Le Hong Duc alertou os usuários para que fiquem atentos a serviços fraudulentos ou não oficiais e recomendou que aguardem o lançamento oficial do Veo3 pelo Google no mercado vietnamita para evitar golpes financeiros, roubo de dados ou acesso não autorizado às suas contas do Google.

Fonte: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm