As notícias falsas estão ficando mais sofisticadas com a manipulação da IA
Recentemente, na reunião entre a Associação de Jornalistas do Vietnã e a Associação de Jornalistas da Tailândia, realizada em Hanói, os líderes das duas associações passaram a maior parte do tempo mencionando o problema das "notícias falsas" e declararam que este não é mais um problema nacional, mas um problema grave, causando impactos imprevisíveis na região e no mundo.
De acordo com uma pesquisa do Google DeepMind, a criação de imagens, vídeos e áudios que se passam por humanos é quase duas vezes mais comum que a criação de informações incorretas usando ferramentas como chatbots de IA.
Deepfakes do primeiro-ministro britânico Rishi Sunak e de outros líderes globais apareceram no TikTok, X e Instagram nos últimos meses, com preocupações de que, apesar dos esforços das redes sociais para rotular ou remover o conteúdo, o público pode não perceber que é falso e que sua disseminação pode influenciar os eleitores.
Uma obra de arte falsa do primeiro-ministro britânico Rishi Sunak apareceu no TikTok e no Instagram antes das eleições gerais. (Foto: AFP)
Avaliando o impacto das notícias falsas na era tecnológica, o Mestre Luong Dong Son, professor do Instituto de Jornalismo e Comunicação da Academia de Jornalismo e Propaganda, afirmou que o produto da combinação de IA e desinformação, também conhecido como fake news surrealistas, pode distorcer a percepção pública de eventos e questões sociais, afetando a forma como avaliam a situação e tomam decisões. Isso pode causar consequências graves, desde pequenas decisões pessoais até decisões importantes que afetam a comunidade e o país.
Notícias hiperfake podem ser usadas como ferramenta para manipular a opinião pública, incitar a violência, semear a divisão e minar a estabilidade social. No cenário político, as notícias hiperfake podem minar a confiança nas instituições democráticas, influenciar os resultados eleitorais e até mesmo incitar conflitos.
Sobre os desafios para jornalistas e organizações de notícias, o Mestre Luong Dong Son afirmou que a sofisticação das notícias falsas surreais, especialmente as deepfakes, torna cada vez mais difícil distinguir entre o real e o falso, mesmo para jornalistas experientes.
"Na era da explosão de informações, o público exige cada vez mais que jornalistas e organizações de notícias forneçam informações com rapidez e precisão. No entanto, essa pressão pode levar jornalistas a publicar informações precipitadamente, sem verificá-las cuidadosamente, criando oportunidades para a disseminação de notícias falsas e surreais. Além disso, jornalistas e organizações de notícias enfrentam riscos legais e éticos se não forem cuidadosos na verificação e publicação de informações", disse o Sr. Son.
Obtenha IA para verificar informações
De acordo com o Mestre Luong Dong Son, para lidar com esse tipo de notícias falsas, é extremamente necessário aplicar soluções tecnológicas modernas.
"Essas soluções não se concentram apenas em detectar e eliminar notícias falsas, mas também em preveni-las desde os estágios iniciais de produção", disse o mestre Dong Son.
Em primeiro lugar, uma das tecnologias mais importantes da atualidade, segundo o Sr. Son, é o uso de sistemas de inteligência artificial para detectar notícias falsas. Os sistemas modernos de IA são capazes de analisar o contexto, comparar informações de diversas fontes e detectar anormalidades no conteúdo informativo. Um exemplo típico é o uso de IA para analisar vídeos e imagens e detectar indícios de edição ou produção usando a tecnologia deepfake.
Além disso, plataformas de mídia social e mecanismos de busca também estão implementando ativamente algoritmos de aprendizado de máquina para classificar e filtrar automaticamente notícias falsas antes que se tornem virais. Esses algoritmos são projetados para reconhecer anomalias nos padrões de compartilhamento, na velocidade com que se espalham ou até mesmo no tom das postagens, avaliando assim a probabilidade de a informação ser falsa.
Além disso, o uso da tecnologia blockchain para gerenciar a origem das informações também é uma solução potencial. O blockchain tem a capacidade de criar um sistema de autenticação transparente e imutável, ajudando a rastrear a origem e o histórico de todas as informações, garantindo precisão e confiabilidade.
A IA pode criar conteúdo falso ou informações e imagens enganosas que são difíceis de distinguir, causando grandes danos à reputação de indivíduos e organizações e até mesmo prejudicando interesses nacionais e étnicos.
Compartilhando a mesma opinião do Mestre Luong Dong Son, o Sr. Phan Van Tu, Chefe do Departamento de Jornalismo da Faculdade de Jornalismo e Comunicação da Universidade de Ciências Sociais e Humanas da Cidade de Ho Chi Minh, enfatizou que, além de fornecer habilidades para explorar os pontos fortes da IA no jornalismo, também precisamos usar ferramentas de IA para verificar informações.
A verificação da fonte, que consiste essencialmente em avaliar a confiabilidade de uma fonte, é uma habilidade importante que envolve verificar a fonte da informação, compará-la com outras fontes e usar ferramentas de verificação de fatos para verificar a confiabilidade.
Curiosamente, agora existem muitas ferramentas integradas de IA que dão suporte aos jornalistas no processo de verificação, além das ferramentas tradicionais que dão suporte aos verificadores de fatos, como o Google Image, a busca reversa de imagens Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...
O Sr. Phan Van Tu afirmou que a formação profissional de jornalistas no período atual exige foco no fornecimento de capacidade de avaliação de informações contra o ataque de notícias falsas manipuladas por IA. "Usar ferramentas de IA para lidar com erros relacionados à IA é a maneira mais rápida de ajudar jornalistas e agências de notícias não apenas a desempenhar bem suas funções, mas também a contribuir para melhorar a qualidade da informação e proteger o público de informações falsas e impactos negativos da mídia", disse o Sr. Tu.
No entanto, o Sr. Tu também destacou que a capacidade dos jornalistas de avaliar informações não pode depender apenas de ferramentas. É preciso dizer desde já que a IA pode auxiliar na análise de conteúdo jornalístico, mas não consegue detectar todos os tipos de notícias falsas e informações manipuladas. Softwares de IA ainda podem ser enganados pelas próprias técnicas de IA que utilizam para detectar.
"Nenhuma ferramenta é uma varinha mágica, mas ferramentas de IA que detectam fotos/vídeos falsos ainda são um recurso valioso como parte de um processo de verificação ou método de due diligence", disse Phan Van Tu.
Hoa Giang
Fonte: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html
Comentário (0)