À medida que a IA se torna mais acessível e mais indivíduos e empresas a utilizam por meio de ferramentas comuns, os hackers podem, simultaneamente, automatizar ataques, acelerar processos operacionais e implementar campanhas mais sofisticadas para atingir seus objetivos ilícitos.
A seguir, apresentamos alguns dos métodos de ataque observados pela Kaspersky: o ChatGPT pode ser usado para desenvolver malware e implantar ataques automaticamente em várias vítimas; programas de IA infiltram-se em dados de usuários em smartphones e, por meio da análise de dados sensíveis, os invasores podem roubar completamente mensagens, senhas e códigos bancários das vítimas; algoritmos de inteligência coletiva ajudam redes de computadores a se recuperarem automaticamente de redes maliciosas que foram eliminadas por soluções de segurança.
A pesquisa da Kaspersky sobre o uso de IA para quebrar senhas indica que a maioria das senhas é criptografada usando algoritmos de hash como MD5 e SHA. Portanto, uma operação simples pode transformar uma senha em uma linha de texto criptografado, mas reverter todo o processo é um desafio significativo.
Por meio da IA, agentes maliciosos podem explorar conteúdo fraudulento, incluindo texto, imagens, áudio e vídeo , para lançar ataques não técnicos. Grandes modelos de linguagem, como o ChatGPT-4o, são utilizados para criar cenários e mensagens de phishing altamente sofisticados. Superando as barreiras linguísticas, a IA pode escrever um e-mail aparentemente autêntico com base apenas em informações de redes sociais. Ela pode até imitar o estilo de escrita da vítima, tornando o golpe ainda mais difícil de detectar.
Entretanto, a tecnologia Deepfake emergiu como um "problema" na cibersegurança, apesar de ter sido anteriormente considerada um produto da pesquisa científica . A personificação de celebridades para obter ganhos financeiros é o método mais comum; além disso, golpistas usam Deepfake para roubar contas e fazer ligações falsas para amigos e parentes das vítimas, com o objetivo de extorquir dinheiro.
Além de explorar a tecnologia de IA para atividades ilegais, agentes maliciosos também podem atacar algoritmos de IA. Isso inclui ataques de "injeção de comandos", nos quais comandos maliciosos são injetados em grandes modelos de linguagem, mesmo contrariando regras previamente restritas; e ataques adversários, nos quais campos de informação ocultos são adicionados a imagens ou áudio para afetar as capacidades de classificação de imagens de sistemas de aprendizado de máquina.
A inteligência artificial (IA) está cada vez mais integrada a todos os aspectos da vida humana, desde a Apple Intelligence e o Google Gemini até o Microsoft Copilot. Portanto, combater as vulnerabilidades da IA deve ser uma prioridade máxima. A Kaspersky utiliza tecnologia de IA para proteger seus clientes e parceiros há muitos anos, buscando continuamente vulnerabilidades em sistemas de IA para aumentar sua resiliência e pesquisando ativamente técnicas de ciberataque para fornecer proteção confiável contra ataques baseados em IA.
KIM THANH
Fonte: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html
Comentário (0)