Usando ferramentas de IA para corrigir defeitos de produtos baseados em IA

As notícias falsas estão ficando mais sofisticadas com a manipulação da IA

Recentemente, na reunião entre a Associação de Jornalistas do Vietnã e a Associação de Jornalistas da Tailândia, realizada em Hanói, os líderes das duas associações passaram a maior parte do tempo mencionando o problema das "notícias falsas" e declararam que este não é mais um problema nacional, mas um grande problema, causando impactos imprevisíveis na região e no mundo.

Criar imagens, vídeos e áudios que imitam humanos é quase duas vezes mais comum do que criar informações incorretas usando ferramentas como chatbots de IA, de acordo com uma pesquisa do Google DeepMind.

Deepfakes do primeiro-ministro britânico Rishi Sunak e de outros líderes globais apareceram no TikTok, X e Instagram nos últimos meses, com preocupações de que, apesar dos esforços das redes sociais para rotular ou remover o conteúdo, o público pode não reconhecê-lo como falso e sua disseminação pode influenciar os eleitores.

Imagens falsas do primeiro-ministro britânico Rishi Sunak apareceram no TikTok e no Instagram antes das eleições gerais. (Foto: AFP)

Avaliando o impacto das notícias falsas na era tecnológica, o Mestre Luong Dong Son, professor do Instituto de Jornalismo e Comunicação da Academia de Jornalismo e Propaganda, afirmou que o produto da combinação de IA e desinformação, também conhecido como fake news surrealistas, pode distorcer a percepção pública de eventos e questões sociais, afetando a forma como avaliam a situação e tomam decisões. Isso pode causar consequências graves, desde pequenas decisões pessoais até decisões importantes que afetam a comunidade e o país.

Notícias hiperfake podem ser usadas como ferramenta para manipular a opinião pública, incitar a violência, semear a divisão e minar a estabilidade social. No cenário político, notícias hiperfake podem minar a confiança nas instituições democráticas, influenciar os resultados eleitorais e até mesmo incitar conflitos.

Sobre os desafios para jornalistas e organizações de imprensa, o Mestre Luong Dong Son disse que a sofisticação das notícias falsas surreais, especialmente as deepfakes, torna cada vez mais difícil distinguir entre o real e o falso, mesmo para jornalistas experientes.

"Na era da explosão de informações, o público exige cada vez mais que jornalistas e organizações de notícias forneçam informações de forma rápida e precisa. No entanto, essa pressão pode levar jornalistas a publicar informações precipitadamente, sem verificação cuidadosa, criando oportunidades para a disseminação de notícias falsas e surreais. Além disso, jornalistas e organizações de notícias enfrentam riscos legais e éticos se não forem cuidadosos na verificação e publicação de informações", disse o Sr. Son.

Faça com que a IA verifique as informações

De acordo com o Mestre Luong Dong Son, para lidar com esse tipo de notícia falsa, é extremamente necessário aplicar soluções tecnológicas modernas.

"Essas soluções não se concentram apenas em detectar e eliminar notícias falsas, mas também em preveni-las desde os estágios iniciais de produção", disse o mestre Dong Son.

Primeiro, uma das tecnologias mais importantes da atualidade, segundo o Sr. Son, é o uso de sistemas de inteligência artificial para detectar notícias falsas. Os sistemas modernos de IA são capazes de analisar contextos, comparar informações de diversas fontes e detectar anormalidades no conteúdo informativo. Um exemplo típico é o uso de IA para analisar vídeos e imagens e detectar sinais de edição ou produção usando a tecnologia deepfake.

Além disso, plataformas de mídia social e mecanismos de busca também estão implementando ativamente algoritmos de aprendizado de máquina para classificar e filtrar automaticamente notícias falsas antes que se tornem virais. Esses algoritmos são projetados para reconhecer anomalias nos padrões de compartilhamento, na velocidade de disseminação ou até mesmo no tom das postagens, avaliando assim a probabilidade de a informação ser falsa.

Além disso, o uso da tecnologia blockchain para gerenciar a origem das informações também é uma solução potencial. O blockchain tem a capacidade de criar um sistema de autenticação transparente e imutável, ajudando assim a rastrear a origem e o histórico de todas as informações, garantindo precisão e confiabilidade.

A IA pode criar conteúdo falso ou informações e imagens enganosas que são difíceis de distinguir, causando grandes danos à reputação de indivíduos e organizações e até mesmo prejudicando interesses nacionais e étnicos.

Compartilhando a mesma opinião do Mestre Luong Dong Son, o Sr. Phan Van Tu, Chefe do Departamento de Jornalismo da Faculdade de Jornalismo e Comunicação da Universidade de Ciências Sociais e Humanas da Cidade de Ho Chi Minh, enfatizou que, além de fornecer habilidades para explorar os pontos fortes da IA ​​para o jornalismo, também precisamos usar ferramentas de IA para verificar informações.

A verificação da fonte, que consiste essencialmente em avaliar a confiabilidade de uma fonte, é uma habilidade importante que envolve verificar a fonte da informação, compará-la com outras fontes e usar ferramentas de verificação de fatos para verificar a confiabilidade.

O interessante é que atualmente existem muitas ferramentas integradas de IA que dão suporte aos jornalistas no processo de verificação, além das ferramentas tradicionais que dão suporte aos verificadores de fatos, como o Google Image, a busca reversa de imagens Tineye, Whopostedwhat.com, Waybackmachine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

O Sr. Phan Van Tu afirmou que o treinamento das habilidades profissionais dos jornalistas no período atual exige atenção à capacidade de verificação de informações contra ataques de notícias falsas manipuladas por IA. "Usar ferramentas de IA para lidar com erros relacionados à IA é a maneira mais rápida de ajudar jornalistas e agências de notícias não apenas a desempenhar bem suas funções, mas também a contribuir para melhorar a qualidade da informação e proteger o público de informações falsas e impactos negativos da mídia", disse o Sr. Tu.

No entanto, o Sr. Tu também destacou que a capacidade dos jornalistas de avaliar informações não pode depender apenas de ferramentas. É preciso dizer desde já que a IA pode auxiliar na análise de conteúdo jornalístico, mas não consegue detectar todos os tipos de notícias falsas e informações manipuladas. O software de IA ainda pode ser enganado pelas técnicas de IA que utiliza para detectar.

“Nenhuma ferramenta é uma varinha mágica, mas ferramentas de IA que detectam fotos/vídeos falsos ainda são um recurso valioso como parte de um processo de verificação ou método de due diligence”, disse Phan Van Tu.

Hoa Giang

Fonte: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html