Toda vez que navego na internet vejo vídeos engraçados e idiotas criados por IA.

Em todo lugar que eu navego, vejo humor sem sentido do Veo 3

Ultimamente, usuários de redes sociais, especialmente do TikTok, têm se deparado constantemente com vídeos de "comédia" criados pela ferramenta Veo 3. Embora a maioria seja divertida, muitos dos conteúdos começaram a se desviar do padrão e a causar polêmica.

“Toda vez que abro o TikTok, vejo vídeos engraçados com motivos familiares, como uma senhora idosa carregando um porco para vender porque comeu demais e dormiu demais”, compartilhou Huyen Mai (20 anos).

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 1 — Huyen Mai disse que seu TikTok está cheio de vídeos de "comédia" criados pela Veo 3 (Foto: Captura de tela).

Mai compartilhou que vídeos semelhantes apareciam cada vez com mais frequência, o que a fazia começar a se sentir desconfortável e a pensar que esses vídeos eram apenas para fins de "isca de visualizações", sem trazer nenhum valor aos espectadores.

Mai disse que frequentemente encontra vídeos negativos ou ofensivos em seu feed de notícias: “Muitos canais do TikTok criam vídeos sobre situações fictícias e histórias da vida real que incorporam elementos obscenos, ofensivos e informações falsas apenas para atrair visualizações”.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 2 — Uma série de conteúdos ofensivos e chocantes foi criada com o objetivo de "atrair visualizações" (Foto: Captura de tela).

Assim como a história de Huyen Mai, Hoang Anh (20 anos) também expressou suas frustrações recentemente. Ele disse que o Veo 3 traz imagens e conteúdo muito realistas, e muitos vídeos são criados com conteúdo interessante e divertido.

Mas, depois de um tempo, ele percebeu que, gradualmente, vídeos com tendência a serem "negativos" e "chocantes para atrair visualizações" apareciam com mais frequência, em vez de focar em valores positivos.

"Um aluno se levantou e xingou. Esse foi um dos vídeos criados pelo Veo 3 que assisti recentemente. Fiquei me perguntando por que havia conteúdo tão ofensivo nas redes sociais, especialmente durante o período de provas extremamente importantes", confidenciou Hoang Anh.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 3 — Muitos vídeos gerados por IA com linguagem e conteúdo inapropriados aparecem com frequência nas redes sociais (Foto: Captura de tela).

O mais preocupante é que alguns vídeos usam imagens de personagens e vozes de crianças para dizer frases delicadas e antiéticas, mas ainda assim atraem milhares de interações da comunidade online.

Além disso, muitos usuários do Veo 3 também criam situações para promover comportamentos desviantes sob o pretexto de conteúdo puramente divertido.

Normalmente, alguns aplicativos e sites, como jogos de azar e apostas, criam descaradamente vídeos promocionais para os espectadores, divulgando-os secretamente e abertamente sob o disfarce de "vídeos de entretenimento".

A porta para muitas consequências

É inegável que o desenvolvimento de ferramentas de IA para geração de vídeos como o Veo 3, além de trazer grande potencial ao setor de produção de conteúdo em muitas lojas e empresas, também abre uma "porta" que leva a consequências virtuais na vida real.

Isso levanta questões como “Adultos ou crianças conseguem distinguir entre vídeos gerados por IA?” e “Como esses vídeos ofensivos impactarão as percepções das crianças?”

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 4 — Logotipo da Vietnam Television inserido em conteúdo gerado por IA (Foto: Captura de tela).

Não apenas para fins de entretenimento, muitos especialistas alertam sobre os riscos potenciais de conteúdo "desviante" criado por IA. Esses produtos, quando disseminados em uma velocidade vertiginosa nas redes sociais, podem fazer com que idosos ou crianças os recebam passivamente e sejam facilmente afetados de forma negativa.

As plataformas de mídia social estão enfrentando atualmente um grande desafio na censura de conteúdo, porque com apenas alguns passos simples, qualquer pessoa pode criar uma série de vídeos com conteúdo desviante, até mesmo promovendo comportamentos ofensivos, depravados ou ilegais.

Além de representar um risco em relação ao conteúdo, o acesso e o uso do Veo 3 no Vietnã também estão causando muitas consequências. Como o Google não oferece suporte oficial a essa ferramenta no mercado doméstico, além das altas taxas (US$ 20/mês para uma conta Pro, US$ 250/mês para uma conta Ultra), muitos entusiastas da tecnologia encontraram maneiras de "superar a barreira" usando VPN, comprando contas flutuantes ou declarando informações falsas.

Muitos deles se tornaram vítimas de truques de "pastoreio de galinhas", como anunciar contas baratas do Veo 3, permitindo que eles usem livremente, com recursos ilimitados.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 5 — Postagens convidando para comprar contas baratas do Veo 3 estão inundando as redes sociais vietnamitas (Captura de tela).

Muitos bandidos se aproveitaram da necessidade de acessar o Veo 3 para aplicar golpes, pedindo aos compradores que primeiro transfiram dinheiro e depois "desapareçam" rapidamente sem deixar rastros.

Notavelmente, algumas pessoas até aceitam registrar contas no Veo 3 usando o endereço do Gmail do cliente a um preço "superpreferencial". No entanto, isso, na verdade, explora uma brecha na política do Google, com o risco de a conta ser bloqueada permanentemente, o que significa a perda de acesso a e-mails, documentos e todos os dados pessoais relacionados.

A tecnologia não é falha

Na verdade, nenhuma plataforma de IA foi projetada para criar conteúdo negativo ou promover comportamento abusivo. Todas as consequências decorrem da forma como as pessoas usam a ferramenta, o que significa que a conscientização e a responsabilidade do usuário são os fatores decisivos.

O Dr. Nguyen Van Son, professor da Faculdade de Tecnologia da Informação da Universidade de Tecnologia (Universidade Nacional do Vietnã, Hanói ), comentou: "Aprecio muito os valores positivos que a inteligência artificial traz. Se usada corretamente, a IA pode trazer muitas contribuições práticas para a sociedade e a comunidade."

No entanto, segundo ele, os problemas surgem quando a tecnologia cai nas mãos de pessoas com motivações prejudiciais. "Nesse momento, a IA se torna uma ferramenta eficaz para apoiar comportamentos negativos, até mesmo amplificando os impactos negativos na sociedade", alertou o Dr. Son.

A partir daí, ele pediu aos usuários, especialmente os jovens, que aumentassem proativamente sua conscientização e responsabilidade ao abordar e aplicar a IA, visando criar conteúdo de qualidade e civilizado em vez de espalhar produtos ruins e ofensivos.

Cứ lướt mạng lại thấy video hài nhảm do AI tạo ra - 6 — O Dr. Nguyen Van Son acredita que a educação é a chave para limitar violações éticas ao usar IA (Foto: Personagem fornecida).

Além disso, o Dr. Nguyen Van Son também acredita que uma das estratégias de longo prazo para limitar violações éticas no uso da IA é abordar a questão a partir de uma perspectiva educacional. Segundo ele, conscientizar, ajudar os usuários a compreender a responsabilidade pessoal e construir uma base ética no uso da tecnologia é um fator-chave, contribuindo para a formação de uma comunidade digital civilizada.

Não se limitando a alertar sobre conteúdo "spam", muitos especialistas têm levantado repetidamente a questão dos perigos potenciais das ferramentas geradas por IA, especialmente a capacidade de criar vídeos, que podem se tornar uma fonte de disseminação de desinformação em larga escala.

"A indústria de tecnologia passou anos lidando com os perigos dos deepfakes. Mas o surgimento de ferramentas de vídeo de IA cada vez mais avançadas é um aviso claro de que a regulamentação do conteúdo gerado por IA e, consequentemente, pela IA avançada, só ficará mais difícil", alertou Connor Leahy, CEO da Conjecture.

Compartilhando a mesma visão, a Sra. Nguyen Thi Trang - CEO da Pisa Solutions LLC - enfatizou a importância do pensamento crítico no contexto de uma IA cada vez mais superior.

“Não somos apenas usuários de IA, mas também receptores de uma ampla gama de conteúdo gerado por ela. Além de usar as ferramentas de forma ética, cada pessoa precisa praticar a capacidade de perceber informações de múltiplas perspectivas, pois atualmente existem muitos vídeos criados por IA que parecem autênticos, mas secretamente promovem conteúdo falso”, compartilhou a Sra. Trang.

Fonte: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm