Utilizando ferramentas de IA para corrigir defeitos em produtos baseados em IA.

As notícias falsas estão se tornando mais sofisticadas com a manipulação da IA.

Recentemente, em um encontro entre a Associação de Jornalistas do Vietnã e a Associação de Jornalistas da Tailândia, realizado em Hanói, os líderes das duas associações dedicaram a maior parte do tempo a mencionar o problema das "notícias falsas" e afirmaram que este não é mais um problema nacional, mas sim um problema de grandes proporções, que causa impactos imprevisíveis na região e no mundo.

Criar imagens, vídeos e áudios que imitam humanos é quase duas vezes mais comum do que criar desinformação usando ferramentas como chatbots de IA, de acordo com uma pesquisa do Google DeepMind.

Deepfakes do primeiro-ministro britânico Rishi Sunak e de outros líderes globais apareceram no TikTok, X e Instagram nos últimos meses, com preocupações de que, apesar dos esforços das redes sociais para rotular ou remover o conteúdo, o público pode não reconhecê-lo como falso e sua disseminação pode influenciar os eleitores.

Perfis falsos do primeiro-ministro britânico, Rishi Sunak, circularam no TikTok e no Instagram às vésperas das eleições gerais. (Foto: AFP)

Ao avaliar o impacto das notícias falsas na era da tecnologia, o mestre Luong Dong Son, professor do Instituto de Jornalismo e Comunicação da Academia de Jornalismo e Propaganda, afirmou que o produto da combinação de inteligência artificial e desinformação, também conhecida como notícias falsas surreais, pode distorcer a percepção pública de eventos e questões sociais, afetando a forma como as pessoas avaliam a situação e tomam decisões. Isso pode causar sérias consequências, desde pequenas decisões pessoais até decisões importantes que afetam a comunidade e o país.

As notícias falsas disseminadas de forma alarmista podem ser usadas como ferramenta para manipular a opinião pública, incitar a violência, semear a discórdia e minar a estabilidade social. No âmbito político, essas notícias podem corroer a confiança nas instituições democráticas, influenciar os resultados eleitorais e até mesmo incitar conflitos.

Em relação aos desafios para jornalistas e organizações de imprensa, o mestre Luong Dong Son afirmou que a sofisticação das notícias falsas surreais, especialmente as deepfakes, torna cada vez mais difícil distinguir entre o real e o falso, mesmo para jornalistas experientes.

"Na era da explosão da informação, o público exige cada vez mais que jornalistas e veículos de comunicação forneçam informações de forma rápida e precisa. No entanto, essa pressão pode levar os jornalistas a publicarem informações precipitadamente, sem a devida verificação, criando oportunidades para a disseminação de notícias falsas e absurdas. Além disso, jornalistas e veículos de comunicação enfrentam riscos legais e éticos se não forem cuidadosos na verificação e publicação das informações", afirmou o Sr. Son.

Use IA para verificar informações

Segundo o mestre Luong Dong Son, para lidar com esse tipo de notícia falsa, a aplicação de soluções tecnológicas modernas é extremamente necessária.

"Essas soluções não se concentram apenas em detectar e eliminar notícias falsas, mas também em preveni-las desde os estágios iniciais de produção", disse o mestre Dong Son.

Em primeiro lugar, uma das tecnologias mais importantes da atualidade, segundo o Sr. Son, é a utilização de sistemas de inteligência artificial para detectar notícias falsas. Os sistemas modernos de IA são capazes de analisar o contexto, comparar informações de múltiplas fontes e detectar anomalias no conteúdo da informação. Um exemplo típico é a utilização de IA para analisar vídeos e imagens a fim de detectar sinais de edição ou produção com o uso da tecnologia deepfake.

Além disso, as plataformas de mídia social e os mecanismos de busca também estão implementando ativamente algoritmos de aprendizado de máquina para classificar e filtrar automaticamente conteúdo de notícias falsas antes que se torne viral. Esses algoritmos são projetados para reconhecer anomalias nos padrões de compartilhamento, na velocidade de disseminação ou até mesmo no tom das postagens, avaliando assim a probabilidade de a informação ser falsa.

Além disso, o uso da tecnologia blockchain para gerenciar a origem da informação também é uma solução potencial. O blockchain tem a capacidade de criar um sistema de autenticação transparente e imutável, ajudando assim a rastrear a origem e o histórico de todas as informações, garantindo precisão e confiabilidade.

A IA pode criar conteúdo falso ou informações e imagens enganosas, difíceis de distinguir, causando grandes danos à reputação de indivíduos e organizações, e até mesmo prejudicando interesses nacionais e étnicos.

Compartilhando da mesma opinião do mestre Luong Dong Son, o Sr. Phan Van Tu, chefe do Departamento de Jornalismo da Faculdade de Jornalismo e Comunicação da Universidade de Ciências Sociais e Humanas da Cidade de Ho Chi Minh, enfatizou que, além de fornecer habilidades para explorar os pontos fortes da IA ​​no jornalismo, também precisamos usar ferramentas de IA para verificar informações.

A verificação de fontes, que consiste essencialmente em avaliar a confiabilidade de uma fonte, é uma habilidade importante que envolve verificar a origem da informação, compará-la com outras fontes e usar ferramentas de checagem de fatos para verificar sua confiabilidade.

O interessante é que atualmente existem muitas ferramentas integradas com IA que auxiliam jornalistas no processo de verificação, além das ferramentas tradicionais que dão suporte aos verificadores de fatos, como Google Imagens, busca reversa de imagens TinEye, Whopostedwhat.com, Wayback Machine, Webarchive.org, InVID, WeVerify, ExifTool, Metapicz...

O Sr. Phan Van Tu afirmou que o treinamento das habilidades profissionais dos jornalistas no período atual exige atenção ao fornecimento de capacidade de verificação de informações contra ataques de notícias falsas manipuladas por IA. "Usar ferramentas de IA para lidar com erros relacionados à IA é a maneira mais rápida de ajudar jornalistas e agências de notícias não apenas a desempenhar bem suas funções, mas também a contribuir para a melhoria da qualidade da informação e proteger o público de informações falsas e impactos negativos da mídia", disse o Sr. Tu.

No entanto, o Sr. Tu também salientou que a capacidade dos jornalistas de avaliar informações não pode depender exclusivamente de ferramentas. É preciso dizer desde já que a IA pode auxiliar na análise do conteúdo das notícias, mas não consegue detectar todos os tipos de notícias falsas e informações manipuladas. O software de IA ainda pode ser enganado pelas próprias técnicas de detecção que utiliza.

“Nenhuma ferramenta é uma varinha mágica, mas as ferramentas de IA que detectam fotos/vídeos falsos ainda são um recurso valioso como parte de um processo de verificação ou método de diligência prévia”, disse Phan Van Tu.

Hoa Giang

Fonte: https://www.congluan.vn/tin-gia-trong-thoi-ky-tri-tue-nhan-tao-dung-cac-cong-cu-ai-de-tri-cac-san-pham-loi-tu-ai-post308981.html