A dualidade da IA

A inteligência artificial (IA) está abrindo muitas oportunidades, mas também se tornando uma ferramenta perigosa quando explorada para criar vídeos deepfake falsos, distorcendo a imagem da polícia e do governo e incitando a opinião pública. Esses vídeos, editados com sofisticação, não apenas corroem a confiança nas autoridades, como também representam uma forma sofisticada de guerra psicológica no ciberespaço.

Chegou a hora de cada usuário se tornar um "escudo digital", estar alerta, vigilante e responsável por cada clique e compartilhamento.

Benefícios e a tênue linha divisória da IA

A inteligência artificial nunca esteve tão próxima da realidade como hoje. Com apenas alguns cliques e um simples comando, é possível criar vozes, imagens e até vídeos com um realismo impressionante. A IA ajuda a economizar tempo, reduzir os custos de produção de conteúdo e inaugurar a era da mídia digital flexível.

No entanto, a capacidade de "simular realisticamente" tornou-se uma faca de dois gumes. Recentemente, as redes sociais têm circulado continuamente vídeos criados com a tecnologia deepfake, nos quais rostos de chefes de polícia, imagens de forças policiais em ação em casos sensíveis, etc., são recortados e colados, dublados com vozes distorcidas para causar mal-entendidos e dividir as pessoas.

Imagens encenadas como essa estão aparecendo cada vez mais nas redes sociais.

Em um vídeo que circula no TikTok, a imagem de um policial de trânsito em serviço foi combinada com um diálogo ofensivo e a hashtag "multa por obrigação", insinuando que o policial estava abusando de seu poder para benefício próprio. Muitos usuários, principalmente jovens, acreditaram facilmente no conteúdo, pois a imagem era muito realista e a voz muito semelhante ao formato da boca, tornando extremamente difícil distinguir entre o real e o falso.

Um jovem YouTuber de Dien Bien , que queria "exibir" sua habilidade em aplicar tecnologia de IA, acabou pagando o preço com uma multa administrativa e um pedido público de desculpas. Na tarde de 24 de janeiro, a Polícia Provincial de Dien Bien anunciou que o Departamento de Segurança Cibernética e Prevenção de Crimes de Alta Tecnologia havia emitido uma decisão multando administrativamente Tong Van T. (nascido em 2001, residente no distrito de Muong Ang) em 7,5 milhões de VND por usar IA para criar um vídeo falso com conteúdo distorcido e por insultar a Polícia de Trânsito.

Especificamente, em 7 de janeiro, T. publicou no canal do YouTube “Tuyền Vlog” um vídeo com mais de 3 minutos de duração e o título chocante: “Enquanto passeava, fui perseguido pela polícia de trânsito”. No vídeo, imagens e situações foram encenadas usando tecnologia de inteligência artificial, simulando perseguições policiais de trânsito, combinadas com efeitos e comentários ofensivos e difamatórios contra as autoridades.

Em colaboração com a polícia, T. admitiu que todo o conteúdo do vídeo era uma montagem criada com o propósito de "entretenimento" e para demonstrar a capacidade de usar tecnologia de inteligência artificial. Além da multa, as autoridades exigiram que T. removesse o vídeo falso e se desculpasse publicamente com a polícia de trânsito em seu canal pessoal no YouTube.

Na era da explosão da tecnologia digital , especialmente com o rápido desenvolvimento da inteligência artificial, forças hostis e reacionárias não hesitaram em se aproveitar dessa ferramenta para criar imagens e histórias fabricadas com o objetivo de distorcer e difamar a imagem das Forças de Segurança Pública do Povo Vietnamita. A foto que tem circulado recentemente nas redes sociais, na qual uma mulher grávida em uniforme policial é ameaçada por dois homens com aparência de "gangsters", é uma clara demonstração dessa tática.

A foto gerada por inteligência artificial viralizou nas redes sociais recentemente.

À primeira vista, os espectadores podem facilmente confundir isso com uma cena real, acompanhada de uma manchete sensacionalista como: “Menino pobre salva policial grávida de ser espancada por gângsteres, abrindo inesperadamente um caso que choca o país inteiro...”. No entanto, trata-se apenas de uma cena encenada, possivelmente de um filme ou produto de entretenimento, ou pior, uma imagem criada por inteligência artificial para manipular as emoções dos leitores, levando-os a sentir pena e duvidar da autenticidade das ações policiais.

Mais preocupante ainda, a disseminação desse conteúdo não só prejudica a reputação e a imagem das Forças de Segurança Pública Popular, que protegem a segurança e a ordem na sociedade dia e noite, como também constitui uma forma sofisticada de guerra psicológica. Quando a confiança da população nas autoridades é corroída por imagens falsas, o objetivo oculto das forças hostis de dividir o grande bloco da unidade nacional será gradualmente alcançado.

Portanto, cada cidadão precisa aumentar sua vigilância, ter pensamento crítico e habilidades para identificar informações falsas, e denunciar e refutar resolutamente conteúdos falsos, contribuindo para a proteção dos fundamentos ideológicos e a manutenção da estabilidade social contra a atual onda de informações tóxicas no ciberespaço.

Na cidade de Ho Chi Minh, um vídeo de quase um minuto viralizou repentinamente nas redes sociais, mostrando uma pessoa em uniforme policial "extorquindo uma confissão" de um indivíduo em um escritório. No vídeo, a pessoa, que se acredita ser um policial, demonstra uma atitude agressiva, gritando e repreendendo constantemente, chegando a usar palavras rudes, o que causou indignação na população.

No entanto, imediatamente após o vídeo viralizar, a Polícia da Cidade de Ho Chi Minh investigou rapidamente e confirmou que se tratava de uma sofisticada montagem feita por meio de deepfake. De acordo com a conclusão, o rosto no vídeo foi extraído da gravação de uma conferência interna da polícia e, em seguida, usado por criminosos virtuais para inseri-lo em uma cena falsa, fazendo com que os espectadores acreditassem erroneamente que se tratava de uma ação real.
Em particular, o áudio que acompanha o vídeo inclui uma voz ameaçadora e insultuosa que não representa as palavras reais de nenhum funcionário, mas sim uma voz sintetizada por inteligência artificial, programada e editada para enganar as emoções do espectador.

O incidente é um exemplo típico do uso da tecnologia deepfake para distorcer e difamar as Forças de Segurança Pública do Povo, um truque que vem sendo cada vez mais explorado por forças reacionárias e antigovernamentais no ciberespaço. Vale ressaltar que, se não forem prontamente expostos, esses produtos falsos podem levar a sérias consequências: abalar a confiança da população nas forças de segurança, incitar resistência na comunidade e criar condições para a disseminação de argumentos falsos. Este é um claro alerta sobre a urgência de aprimorar a capacidade da mídia em refutar, detectar e combater notícias falsas, e, ao mesmo tempo, um apelo a cada cidadão para que esteja vigilante e não se apresse em compartilhar ou comentar conteúdo não verificado de fontes oficiais.

Em outro caso recente, relacionado ao tratamento de infrações em um centro de inspeção veicular no Sul, indivíduos hostis divulgaram um vídeo falso de um chefe da polícia provincial defendendo os policiais infratores. Esse vídeo foi disseminado no Telegram e em redes sociais com o título "apoiado por forças poderosas", mas, na verdade, era um produto de inteligência artificial, não constando em nenhuma coletiva de imprensa ou documento oficial.

Uma tendência perigosa está se espalhando silenciosamente no ciberespaço: criminosos usam tecnologia de inteligência artificial para criar vídeos falsos com o objetivo de aplicar golpes e extorquir dinheiro. Recentemente, muitas pessoas foram vítimas quando suas imagens, especialmente as de figuras públicas como advogados, médicos e empresários, foram editadas e inseridas em vídeos publicitários que prometem "recuperar dinheiro perdido em golpes online".

Nesses vídeos, a IA é usada para falsificar a voz e o rosto do advogado, fazendo com que os espectadores confiem e, assim, forneçam facilmente informações pessoais ou transfiram dinheiro para o golpista. Mais perigoso ainda, alguns indivíduos também usam a tecnologia deepfake para inserir o rosto da vítima em vídeos de conteúdo sexual e enviá-los para seus cônjuges ou colegas com o objetivo de ameaçá-los e forçá-los a transferir dinheiro para "manter o assunto em segredo".

Um incidente chocante ocorreu em março de 2025, quando uma vítima em Hanói foi solicitada a transferir dezenas de milhões de dongs após receber um vídeo sexual falso com sua própria imagem. Enquanto isso, na Cidade de Ho Chi Minh, outra pessoa foi chantageada em até 2 bilhões de dongs para não permitir a divulgação do vídeo íntimo. O Ministério da Segurança Pública interveio, identificando diversos grupos criminosos transnacionais, principalmente da China e do Sudeste Asiático, por trás dessas atividades, que utilizavam chips SIM fraudulentos, carteiras eletrônicas e plataformas de redes sociais para ocultar suas identidades.

Isso deixou de ser um golpe de pequena escala e se tornou uma forma de "guerra psicológica de alta tecnologia", que explora profundamente o medo da honra e das relações sociais para pressionar a vítima. Se você não aumentar sua vigilância, suas habilidades para identificar informações e comportamentos incomuns, qualquer pessoa pode se tornar "presa" nas mãos de criminosos que utilizam alta tecnologia. Diante dessa sofisticada onda de falsificações, todo cidadão precisa estar alerta, jamais compartilhar informações pessoais indiscriminadamente e estar pronto para denunciar atos ilegais, contribuindo para a proteção da sua segurança e da comunidade.

É necessário um "escudo digital" da comunidade para combater a ameaça dos deepfakes.

Segundo o Departamento de Rádio, Televisão e Informação Eletrônica (Ministério da Cultura, Esportes e Turismo), em 2024, as plataformas digitais no Vietnã tiveram que remover mais de 4.000 vídeos contendo informações falsas e distorcidas, a maioria dos quais eram produtos criados com tecnologia de IA, como deepfake, clonagem de voz... Somente o TikTok — uma plataforma popular entre os jovens — foi solicitado a remover mais de 1.300 vídeos deepfake, principalmente relacionados à polícia, ao governo e às políticas sociais.

Na era da explosão tecnológica, a inteligência artificial abre um potencial revolucionário, mas também acarreta perigos sem precedentes, especialmente os deepfakes com conteúdo distorcido, que atacam a reputação de órgãos públicos. Uma pesquisa do Instituto de Pesquisa de Mídia MICRI mostra que 62% dos usuários de redes sociais no Vietnã não conseguem distinguir entre o real e o falso sem alertas da mídia tradicional ou das autoridades. Essa "lacuna cognitiva" é amplamente explorada por forças maliciosas para disseminar informações falsas, causando perturbações psicológicas na sociedade.

Tong Van T. na delegacia de polícia.

Segundo o Major-General, Professor Associado, Dr. Do Canh Thin, especialista em criminologia, usar IA para criar vídeos falsos de líderes, editar declarações falsas ou distorcer as ações profissionais da polícia é uma tática nova, mas especialmente perigosa. “Deepfake não é simplesmente um produto de entretenimento, mas uma forma de guerra de informação moderna, capaz de destruir a confiança, causar instabilidade social e ser muito difícil de controlar”, comentou o Major-General Do Canh Thin.

Na verdade, vídeos manipulados por IA não são inofensivos, mas frequentemente abordam temas sensíveis como o tratamento de violações, a investigação de crimes, o combate à corrupção, etc., causando confusão e desconfiança nas pessoas em relação às autoridades policiais. Mais preocupante ainda é o fato de muitos vídeos serem compartilhados em grandes plataformas como YouTube e TikTok, alcançando centenas de milhares de visualizações antes de serem removidos, o que gera um efeito viral negativo.

O especialista em mídia digital Hoang Minh alerta: “Com apenas um compartilhamento ou uma curtida, se não tomarmos cuidado, podemos nos tornar facilitadores de notícias falsas. Todo usuário da internet precisa entender que o comportamento no espaço digital também tem consequências reais.”

Nesse contexto, o que se faz necessário, mais do que nunca, é construir um “escudo digital” a partir da própria comunidade: ou seja, vigilância, imunidade informacional e responsabilidade pelo ambiente de rede. A tecnologia pode ser neutra, mas a forma como as pessoas a utilizam determinará se a IA se tornará uma força motriz para o desenvolvimento ou uma força que destrói a confiança social. Manter a frente ideológica, proteger a imagem do soldado da Segurança Pública Popular é proteger o fundamento da segurança nacional, uma tarefa não apenas do setor funcional, mas também de cada cidadão na era digital.

Fonte: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html