Deepfakes políticos lideram a lista de usuários maliciosos de IA.

Pesquisas do Google DeepMind indicam que a criação de imagens, vídeos e áudios falsos de pessoas é quase duas vezes mais comum do que a criação de desinformação usando ferramentas como chatbots de IA.

A análise revela que o objetivo mais comum dos agentes que abusam da IA ​​sintética é moldar ou influenciar a opinião pública. Isso representa 27% dos casos de uso, aumentando as preocupações sobre como os deepfakes podem afetar as eleições em todo o mundo este ano.

Uma arte falsa retratando o primeiro-ministro britânico Rishi Sunak apareceu no TikTok e no Instagram antes das eleições gerais. Foto: AFP

Deepfakes do primeiro-ministro britânico Rishi Sunak, assim como de outros líderes globais, apareceram no TikTok, X e Instagram nos últimos meses. Os eleitores britânicos irão às urnas na próxima semana para as eleições gerais.

Há preocupações de que, apesar dos esforços das plataformas de redes sociais para rotular ou remover esse tipo de conteúdo, o público possa não reconhecê-lo como falso e sua disseminação possa influenciar os eleitores.

Ardi Janjeva, pesquisador associado do Instituto Alan Turing, considerou as conclusões do artigo "particularmente relevantes", sugerindo que a informação pública gerada por IA poderia "distorcer nossa compreensão comum da realidade sociopolítica ".

"Mesmo que não tenhamos certeza sobre o impacto dos deepfakes no comportamento eleitoral, essa distorção pode ser difícil de detectar a curto prazo e representa um risco a longo prazo para a democracia", acrescentou Janjeva.

"Há muita preocupação em relação aos ciberataques bastante sofisticados que essas ferramentas podem criar", disse a pesquisadora Nahema Marchal, autora principal do estudo no Google DeepMind.

Pesquisadores do Google DeepMind e da Jigsaw analisaram aproximadamente 200 casos de uso indevido de IA entre janeiro de 2023 e março de 2024, provenientes de plataformas de mídia social como X e Reddit, além de blogs online e reportagens sobre o tema.

A segunda motivação mais comum por trás do abuso é o lucro, incluindo a criação de imagens de nudez de pessoas reais ou o uso de IA para gerar diversos tipos de conteúdo, como notícias falsas. Na maioria dos casos, são utilizadas ferramentas de fácil acesso que "exigem conhecimento técnico mínimo", o que significa que muitos criminosos podem usar a IA de forma criativa e indevida.

Ngoc Anh (de acordo com o FT)

Fonte: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html