Terroristas do ISIS e da Al-Qaeda usam IA para disseminar propaganda extremista.

A ascensão de extremistas que utilizam IA

Ao longo do último ano, observadores de diversas organizações de monitoramento do extremismo relataram como o Estado Islâmico e outros grupos extremistas estão incentivando seus seguidores a usar novas ferramentas digitais.

Em fevereiro, um grupo ligado à Al-Qaeda anunciou que começaria a realizar workshops online sobre inteligência artificial. Posteriormente, lançou um guia sobre como usar um chatbot de IA.

Em março, após um grupo afiliado ao Estado Islâmico ter realizado um ataque terrorista em um teatro de Moscou, que matou mais de 135 pessoas, um dos seguidores do grupo criou uma notícia falsa sobre o ocorrido e a publicou quatro dias depois do ataque.

No início deste mês, agentes do Ministério do Interior da Espanha prenderam nove jovens por compartilharem material de propaganda que elogiava o grupo Estado Islâmico, sendo que um deles foi descrito como focado em "conteúdo multimídia extremista usando aplicativos de edição especializados com inteligência artificial".

“Tanto a Al-Qaeda quanto o Estado Islâmico estão usando a inteligência artificial como um complemento à propaganda oficial”, disse Moustafa Ayad, diretor executivo para África, Oriente Médio e Ásia do Instituto para o Diálogo Estratégico (ISD), com sede em Londres, que estuda o extremismo em todas as suas formas.

Ele acrescentou que a forma como esse conteúdo de propaganda é exibido pode não ser detectada pelos moderadores de conteúdo em plataformas populares de mídia social.

Grupos extremistas estão explorando cada vez mais as tecnologias emergentes para fins maliciosos. Foto: Tim Goode

Os extremistas estão entre os primeiros a adotar a tecnologia de IA.

Quando o grupo extremista ISIS surgiu por volta de 2014, eles produziam vídeos de propaganda com valores de produção bastante elevados para intimidar inimigos e recrutar seguidores para se tornarem membros do grupo.

“Os grupos terroristas e seus apoiadores continuam sendo os primeiros a adotar tecnologias para servir aos seus interesses”, observou Ayad.

Organizações de monitoramento descreveram diversas maneiras pelas quais grupos extremistas utilizam IA. Além da propaganda, eles também podem usar chatbots construídos a partir de grandes modelos de linguagem, como o ChatGPT, para conversar com potenciais recrutas.

Há também preocupações de que extremistas possam usar ferramentas de IA para realizar ataques digitais ou cibernéticos, ou para ajudá-los a planejar ataques terroristas na vida real.

“Neste momento, não sei se o uso de IA por organizações terroristas estrangeiras e seus apoiadores é mais perigoso do que campanhas de propaganda que envolvem assassinatos indiscriminados de civis e ataques às forças de segurança”, disse Ayad, do ISD.

“Neste momento, a maior ameaça é que esses grupos estejam de fato realizando ataques, disseminando propaganda ou recrutando novos membros em um contexto geopolítico , especificamente na guerra em Gaza”, continuou ele. “Eles estão usando mortes de civis e ações israelenses como ferramenta para recrutar e construir campanhas.”

Ngoc Anh (de acordo com a DW)

Fonte: https://www.congluan.vn/khung-bo-is-va-al-qaeda-su-dung-ai-de-tuyen-truyen-chu-nghia-cuc-doan-post303035.html