Terroristas do ISIS e da Al-Qaeda usam IA para espalhar propaganda extremista

A ascensão de extremistas que usam IA

No ano passado, observadores de diversas organizações de monitoramento extremistas relataram como o EI e outros grupos extremistas estão incentivando seus seguidores a usar novas ferramentas digitais.

Em fevereiro, um grupo ligado à Al-Qaeda anunciou que começaria a realizar workshops online sobre IA. Posteriormente, lançou um guia sobre como usar um chatbot de IA.

Em março, depois que um afiliado do EI realizou um ataque terrorista em um teatro de Moscou que matou mais de 135 pessoas, um dos seguidores do grupo criou uma notícia falsa sobre o evento e a publicou quatro dias após o ataque.

No início deste mês, agentes do Ministério do Interior da Espanha prenderam nove jovens por compartilhar material de propaganda elogiando o grupo EI, sendo que um deles foi descrito como focado em "conteúdo multimídia extremista usando aplicativos de edição especializados com tecnologia de inteligência artificial".

“Tanto a Al-Qaeda quanto o EI estão usando a IA como um suplemento à propaganda oficial”, disse Moustafa Ayad, diretor executivo para África, Oriente Médio e Ásia no Instituto para o Diálogo Estratégico (ISD), sediado em Londres, que estuda o extremismo em todas as suas formas.

Ele acrescentou que a maneira como esse conteúdo de propaganda é exibido pode não ser detectada pelos moderadores de conteúdo em plataformas populares de mídia social.

Grupos extremistas estão explorando cada vez mais tecnologias emergentes para fins maliciosos. Foto: Tim Goode

Os extremistas estão entre os primeiros a adotar a tecnologia de IA.

Quando o grupo extremista ISIS surgiu pela primeira vez, por volta de 2014, eles fizeram vídeos de propaganda com valores de produção bastante altos para intimidar inimigos e recrutar seguidores para se tornarem membros do grupo.

“Grupos terroristas e seus apoiadores continuam sendo os primeiros a adotar a tecnologia para servir aos seus interesses”, observou Ayad.

Grupos de vigilância descreveram diversas maneiras pelas quais grupos extremistas usam a IA. Além da propaganda, eles também podem usar chatbots criados a partir de grandes modelos de linguagem, como o ChatGPT, para conversar com potenciais recrutas.

Também há preocupações de que extremistas possam usar ferramentas de IA para realizar ataques digitais ou cibernéticos ou ajudá-los a planejar ataques terroristas na vida real.

“Não sei neste momento se o uso de IA por organizações terroristas estrangeiras e seus apoiadores é mais perigoso do que campanhas de propaganda envolvendo assassinatos indiscriminados de civis e ataques às forças de segurança”, disse Ayad, do ISD.

“Neste momento, a maior ameaça é que esses grupos estejam, na verdade, realizando ataques, disseminando propaganda ou recrutando novos membros em um contexto geopolítico , especificamente a guerra em Gaza”, continuou ele. “Eles estão usando mortes de civis e ações israelenses como ferramenta para recrutar e construir campanhas.”

Ngoc Anh (de acordo com a DW)

Fonte: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html