Muitos desafios da IA ​​na nova era

Com a crescente acessibilidade da IA, e cada vez mais indivíduos e empresas a utilizando através de ferramentas comuns, os hackers também podem automatizar ataques, acelerar operações e implementar campanhas mais complexas para atingir seus objetivos ilegais.

A Kaspersky revela tipos de ataques cibernéticos que utilizam IA.

Eis os tipos de ataques que a Kaspersky observou: o ChatGPT pode ser usado para desenvolver malware e implantar ataques automaticamente em várias vítimas; programas de IA infiltram-se nos dados dos usuários em smartphones e, por meio da análise de dados sensíveis, podem "ler" completamente mensagens, senhas e códigos bancários das vítimas; algoritmos de inteligência coletiva ajudam redes de computadores automatizadas (bonets) a restaurar redes maliciosas que foram eliminadas por soluções de segurança.

A pesquisa da Kaspersky sobre o uso de IA para quebrar senhas mostra que a maioria das senhas é criptografada usando algoritmos de hash como MD5 e SHA. Uma operação simples pode transformar uma senha em um fluxo de texto cifrado, mas reverter o processo é um grande desafio.

Por meio da IA, criminosos cibernéticos podem explorar conteúdo fraudulento, incluindo texto, imagens, áudio e vídeo , para lançar ataques de engenharia social. Grandes modelos de linguagem, como o ChatGPT-4o, são usados ​​para criar scripts e mensagens de phishing altamente sofisticados. Superando as barreiras linguísticas, a IA pode escrever um e-mail genuíno, baseado apenas em informações de redes sociais. A IA pode até imitar o estilo de escrita da vítima. Isso torna o comportamento de phishing ainda mais difícil de detectar.

Ao mesmo tempo, o Deepfake existe como um "problema" na segurança cibernética, embora antes fosse considerado um produto da pesquisa científica . A personificação de celebridades para ganho financeiro é o método mais comum; além disso, golpistas também usam Deepfake para roubar contas, fazer ligações falsas para amigos e parentes das vítimas e se apropriar de seus bens.

Além de explorar a tecnologia de IA para atividades ilegais, os criminosos também podem atacar algoritmos de IA. Exemplos disso são os ataques de "injeção de prompts", que consistem na inserção de comandos maliciosos em grandes modelos de linguagem, mesmo contrariando regras previamente estabelecidas; e os ataques adversários, que adicionam campos de informação ocultos a imagens ou áudio, afetando a capacidade de classificação de imagens do sistema de aprendizado de máquina.

A inteligência artificial (IA) está gradualmente integrada a todos os aspectos da vida humana, desde a Apple Intelligence e o Google Gemini até o Microsoft Copilot. Portanto, combater as vulnerabilidades da IA ​​deve ser uma prioridade máxima. A Kaspersky utiliza tecnologia de IA para proteger clientes e parceiros há muitos anos, buscando continuamente vulnerabilidades em sistemas de IA, aumentando a resiliência do sistema e pesquisando ativamente técnicas de ciberataque para fornecer proteção confiável contra ataques de IA.

KIM THANH

Fonte: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html