Identificar notícias falsas criadas com tecnologia de IA generativa

Em 25 de novembro, em declarações ao jornal CAND, um representante do Departamento de Segurança Cibernética e Prevenção de Crimes de Alta Tecnologia do Ministério da Segurança Pública afirmou que, durante as inundações na região Centro-Sul, milhares de notícias falsas foram criadas e disseminadas na internet. A polícia verificou e esclareceu cerca de 70 casos de disseminação de notícias falsas e puniu os responsáveis.

1. Na era digital , as notícias falsas são um problema global. Em nosso país, nos últimos dias, notícias falsas relacionadas às enchentes na região Centro-Sul demonstraram o nível alarmante de desinformação que elas causam. Algoritmos de redes sociais que priorizam a "indignação e o compartilhamento" são "agentes tecnológicos" que propagam rapidamente as notícias falsas. Usuários de redes sociais influenciados por emoções são levados por notícias falsas e até mesmo se tornam, involuntariamente, "veiculadores" ao clicarem em "compartilhar". A tecnologia de IA generativa cria e dissemina notícias falsas a uma velocidade vertiginosa.

Notícias falsas sobre inundações em Dak Lak .

Segundo informações das autoridades da comuna de Hoa Thinh, província de Dak Lak – o epicentro das recentes inundações –, até o meio-dia de 24 de novembro, toda a comuna registrava 25 mortes, sem nenhum desaparecido. Certamente muitos leitores já viram um vídeo de uma mulher relatando, como testemunha ocular, que "um prédio alto onde muitas pessoas buscavam abrigo da enchente desabou" e que havia "corpos boiando...". Pela expressão facial, pela voz e pela linguagem descritiva dessa mulher, é possível perceber a gravidade da tragédia em Hoa Thinh.

Enquanto as águas da enchente inundavam as províncias do Centro-Sul (antigas): Binh Dinh, Phu Yen , Khanh Hoa e Ninh Thuan, informações divulgadas por "testemunhas" comoveram imediatamente a comunidade online. A crença popular foi imediata. Em um estado de pânico, ansiedade e medo, muitas pessoas compartilharam as informações. Paralelamente, alguns oportunistas editaram e manipularam as notícias para criar um efeito sensacionalista e publicá-las nas redes sociais, visando atrair visualizações, aumentar o engajamento, lucrar com as plataformas digitais e sabotar o trabalho de resgate das autoridades e voluntários.

Considerando que muitas crianças na região Centro-Sul estudam e moram longe de casa, sem conseguir contato com seus familiares devido a cortes de energia e perda de sinal de celular, a situação se agrava com a disseminação de informações sobre enchentes geradas por inteligência artificial nas redes sociais. A IA criou fotos e vídeos vívidos e incrivelmente realistas das enchentes, que se espalharam exponencialmente. A partir de informações não verificadas, as redes sociais são "inundadas" por notícias falsas sobre pessoas morrendo de fome, frio e asfixia devido às enchentes...

No vídeo, a Sra. V aparece se referindo a informações falsas sobre o número de mortes na comuna de Hoa Thinh, província de Dak Lak (foto à esquerda). A Sra. V na delegacia após denunciar as informações falsas (foto à direita).

Em 23 de novembro, o Departamento de Segurança Cibernética e Prevenção de Crimes de Alta Tecnologia da Polícia Provincial de Dak Lak, em conjunto com a Polícia da Comuna de Ea Kar, interveio para deter a Sra. Nguyen Thi Ngoc V. (residente na vila de Tan Yen, comuna de Ea Ly) – a mulher que apareceu no vídeo divulgando notícias falsas na comuna de Hoa Thinh. Na ocasião, a Sra. V. admitiu que o vídeo foi gravado secretamente por outra pessoa e que não previu a repercussão que a informação teria.

Sabe-se que somente na província de Dak Lak, durante o auge das enchentes, a polícia descobriu diversas contas no Facebook e no TikTok publicando conteúdo e imagens imprecisas relacionadas à inundação. Isso não só causou pânico na população, como também dificultou o trabalho de resgate. A polícia verificou, advertiu e solicitou que 17 pessoas se comprometessem a não reincidir, aplicou multas administrativas a 5 pessoas, totalizando 37.500.000 VND, e solicitou a remoção de 30 publicações com informações falsas.

2. Referindo-se às notícias falsas disseminadas durante os dias de inundação na região Centro-Sul, o Capitão Nguyen Khanh Hoa, do Departamento de Segurança Cibernética e Prevenção de Crimes de Alta Tecnologia, afirmou que, recentemente, milhares de notícias falsas se espalharam pela internet. Essas notícias falsas são criadas por ferramentas de IA, produzidas em grande quantidade e disseminadas muito rapidamente, superando em muito as informações oficiais. Os autores das notícias falsas, além de buscarem curtidas e visualizações, também se aproveitam da situação para pedir doações, sabotar os trabalhos de resgate...

Imagens falsas criadas usando tecnologia de IA.

As pessoas precisam ter habilidades para identificar notícias falsas, como: parar por um momento para observar a imagem, a cor e o formato da boca na imagem/vídeo; comparar informações e acessar informações oficiais. Nos últimos dias, as notícias falsas afetaram muito a sociedade, especialmente as pessoas em áreas atingidas por enchentes. Para prevenir e combater as notícias falsas, as autoridades têm usado simultaneamente medidas técnicas e profissionais para revisar e detectar. Quando detectadas, dependendo da natureza, a pessoa que cria/publica notícias falsas pode estar sujeita a sanções administrativas ou criminais. Os usuários de redes sociais precisam estar alertas e servir como um escudo de informação, acompanhando as autoridades na criação de um ambiente de informação limpo no ciberespaço.

Em uma publicação em sua página pessoal do Facebook, o especialista em mídia Le Quoc Vinh, diretor da Le Boss Company, explicou por que as notícias falsas encontram espaço para viver e prosperar. Segundo ele: as notícias falsas atingem as emoções antes que a razão tenha tempo de agir; as notícias falsas fornecem histórias "fáceis de acreditar" em um mundo complexo; as notícias falsas se encaixam nos preconceitos já existentes no público; os algoritmos das redes sociais priorizam "raiva e divisão"; muitas organizações lidam com crises de forma inadequada, alimentando involuntariamente as notícias falsas; as notícias falsas são uma ferramenta na guerra midiática moderna; a demora da imprensa tradicional e das agências de gestão criou uma "lacuna de informação" para as notícias falsas...

O Sr. Vinh também comentou: “As notícias falsas sobrevivem não apenas por causa de quem as cria, mas também por causa de quem as compartilha. Nós, usuários de redes sociais, somos tanto vítimas quanto agentes que as transformam em um ‘vírus emocional’”.

3. Ao ler esta publicação de 23 de novembro na página pessoal do Facebook do Sr. Phuong Van Lanh, Secretário do Comitê do Partido da Comuna de Hoa Thinh, Província de Dak Lak, podemos constatar os esforços do governo local e das forças de segurança no trabalho de resgate, bem como as consequências das notícias falsas. Foi a informação oficial da pessoa responsável no "centro de controle de enchentes" que expôs a notícia falsa.

E em 25 de novembro, nas redes sociais, os principais meios de comunicação divulgaram imagens de policiais, militares, jovens, equipes médicas... empenhados em ajudar as pessoas nas áreas afetadas pelas enchentes; o movimento de apoio à população das províncias do Centro-Sul para superar as consequências das inundações foi lançado e implementado por províncias/cidades, organizações, agências e empresas... Essas informações precisas e positivas contribuíram para combater as notícias falsas, criando um ambiente de informação saudável no ciberespaço e, assim, contribuindo para o compartilhamento de perdas e dificuldades com as pessoas nas áreas afetadas pelas enchentes.

Vinh Nghi

Fonte: https://cand.com.vn/phap-luat/nhan-dien-tin-gia-duoc-tao-bang-cong-nghe-ai-tao-sinh-i789242/