Deepfake da guerra em Gaza levanta preocupações sobre IA

Visualizadas milhões de vezes online, as imagens são deepfakes criadas com inteligência artificial. Se você observar atentamente, poderá notar sinais reveladores: dedos estranhamente curvados ou olhos que brilham com uma luz antinatural.

A indignação gerada por essas imagens deepfake, no entanto, é real.

Fotografias da guerra entre Israel e Hamas ilustram de forma vívida e dolorosa os perigos da inteligência artificial como ferramenta de propaganda, usada para criar imagens realistas.

Desde o início dos confrontos no mês passado, fotos manipuladas digitalmente que circulam nas redes sociais têm sido usadas para fazer alegações falsas sobre a responsabilidade por vítimas ou para enganar as pessoas sobre atrocidades que nunca aconteceram.

Imagens deepfake da guerra em Gaza levantam novas preocupações (imagem 1) — Um palestino recolhe seus pertences dos escombros em Gaza. Foto da AP.

Os avanços tecnológicos estão ocorrendo com frequência crescente e pouca supervisão. Isso torna evidente o risco de a IA se tornar outra forma de arma e oferece um vislumbre inicial do que acontecerá em futuros conflitos, eleições e outros grandes eventos.

“As coisas vão piorar muito antes de melhorarem”, disse Jean-Claude Goldenstein, CEO da CREOpoint, uma empresa de tecnologia com sede em São Francisco e Paris que usa IA para avaliar a validade de reclamações online.

Sua empresa compilou um banco de dados com as imagens deepfake mais virais que surgiram em Gaza. "Imagens, vídeos e áudio: com IA criativa, este é um passo à frente que você nunca viu antes", disse ele.

Imran Ahmed, CEO do Centro de Combate ao Ódio Digital, uma organização sem fins lucrativos que monitora a desinformação relacionada à guerra, afirmou que os propagandistas que criam essas imagens são hábeis em atingir os impulsos e ansiedades mais profundos das pessoas.

Quanto mais assustadora a imagem, maior a probabilidade de os usuários se lembrarem dela e a compartilharem, disseminando inadvertidamente mais desinformação. Desinformação semelhante, gerada por IA, começou a se espalhar viralmente desde o conflito entre Rússia e Ucrânia.

Cada novo conflito ou período eleitoral apresenta novas oportunidades para a disseminação de desinformação. Isso levou muitos especialistas em IA e cientistas políticos a alertarem para os riscos no próximo ano, quando diversos países realizarão eleições importantes, incluindo Estados Unidos, Índia, Paquistão, Ucrânia, Indonésia e México.

O risco de que a IA e as redes sociais possam ser usadas para espalhar mentiras aos eleitores americanos alarmou legisladores de ambos os partidos em Washington. Em uma audiência recente sobre os perigos da tecnologia deepfake, o deputado americano Gerry Connolly, democrata da Virgínia, afirmou que os EUA precisam investir no financiamento do desenvolvimento de ferramentas de IA projetadas para combater outras formas de IA.

Responder eficazmente aos desafios políticos e sociais colocados pela desinformação gerada por IA exigirá tanto melhor tecnologia quanto melhor regulamentação, afirmou David Doermann, professor da Universidade de Buffalo.

Mai Anh (de acordo com a AP)

Fonte