O perigo de criminosos possuírem 'IA obscura'

As ferramentas de IA especificamente treinadas para ciberataques estão se tornando mais eficazes, tornando-os mais complexos de combater.

A inteligência artificial está se tornando uma poderosa assistente para cibercriminosos. Foto: Cato Networks .

Não apenas usuários comuns, mas também cibercriminosos estão utilizando cada vez mais IA para criar ataques mais sofisticados do que nunca. Em menos de dois anos, as ferramentas de IA para auxiliar hackers evoluíram rapidamente em termos de recursos e eficiência.

Adrian Hia, diretor da Kaspersky para a Ásia e o Japão (APJ), afirmou que a IA obscura desempenha um papel fundamental no rápido crescimento de malwares. Dados da Kaspersky mostram que quase meio milhão de malwares são criados todos os dias.

"A IA obscura é como a dark web - o lado sombrio da internet que usamos todos os dias", disse o Sr. Hia.

Sergey Lozhkin, chefe da equipe global de pesquisa e análise (GReAT) da Kaspersky para a região Ásia- Pacífico (APAC) e Oriente Médio, África e Turquia (META), afirmou que a IA oculta é completamente diferente dos chatbots de IA convencionais, como o ChatGPT ou o Gemini.

A IA com a qual os usuários estão familiarizados foi criada para auxiliá-los e executar tarefas legítimas, e mesmo que recebam ordens para criar malware ou realizar atividades ilegais, os usuários terão dificuldade em atingir seus objetivos.

Entretanto, a IA Sombria "na verdade é LLM ou chatbots criados exclusivamente para realizar atividades maliciosas no ciberespaço", disse o Sr. Lozhkin. Essas IAs são treinadas para criar malware, conteúdo de phishing ou até mesmo uma estrutura completa para que cibercriminosos a utilizem para cometer fraudes.

Sistema de IA oculto apenas para hackers de boa reputação.

Esses sistemas, que o Sr. Lozhkin chama de Black Hat GPT ou “black hat GPT”, existem desde 2023. Representantes da Kaspersky afirmaram que, naquela época, a IA era muito básica, criava códigos muito ruins e podia ser detectada imediatamente.

No entanto, recentemente, os sistemas GPT de hackers maliciosos tornaram-se mais completos, capazes de fornecer diversas funções, desde a criação de malware e conteúdo fraudulento até a imitação de vozes e vídeos . Alguns exemplos são WormGPT, DarkBard e FraudGPT.

Sergey Lozhkin, pesquisador da Kaspersky, alerta que a qualidade da IA ​​oculta está melhorando cada vez mais. Foto: Minh Khoi.

Uma das descobertas mais perturbadoras da Kaspersky foi a existência de sistemas privados de IA oculta, disponíveis apenas para cibercriminosos de renome. Para obter acesso a esses sistemas privados de IA, os hackers precisam construir uma reputação em fóruns clandestinos.

“Só é possível acessar esses tipos de sistemas se você for uma pessoa de confiança. É preciso construir uma reputação em fóruns clandestinos para obter acesso a esses assistentes”, disse um especialista da Kaspersky.

Lozhkin afirmou que a Kaspersky possui uma unidade de "Inteligência de Pegada Digital" que passa anos infiltrando-se em fóruns clandestinos, monitorando e rastreando atividades. Uma vez que a empresa obtém acesso a novos sistemas, ela continua investindo muito tempo para entender como a IA obscura é usada, suas funções e sua eficácia.

A IA obscura está ficando mais forte.

A IA obscura está se tornando uma ferramenta eficaz para hackers habilidosos. Para aqueles com apenas conhecimentos básicos de programação, solicitar a um gerador de ransomware pode resultar apenas em software facilmente detectado por antivírus. No entanto, para hackers experientes e qualificados, a IA obscura pode aumentar a produtividade na programação, possibilitando a criação de novos malwares.

"Essa qualidade depende muito de cada plataforma ou IA específica. Algumas geram código de qualidade muito baixa, mas também existem ferramentas que podem atingir 7 ou 8 pontos em 10", compartilhou o Sr. Lozhkin com Tri Thuc - Znews .

Um exemplo disso é a capacidade de criar código polimórfico. Anteriormente, quando um trecho de código malicioso era detectado por um antivírus, os hackers precisavam gastar muito tempo alterando o código. Agora, a IA obscura pode fazer isso "quase instantaneamente" para criar uma versão mais difícil de detectar.

Além disso, os dark web estão rompendo a barreira do idioma em ataques de phishing. Especialistas da Kaspersky afirmam que a nova geração de e-mails de phishing é mais difícil de detectar devido ao inglês quase perfeito, que pode até mesmo "parecer exatamente com a voz do CEO".

Alguns sistemas de IA obscura "tudo-em-um" conseguem gerar código, integrar imitação de voz e enviar e-mails de phishing. Foto: Kaspersky.

A capacidade do sistema especializado Dark AI de criar vozes e imagens falsas também está cada vez mais aperfeiçoada. O Sr. Lozhkin chegou a afirmar que "já não acredita em videochamadas" graças à sua experiência como profissional de segurança.

No entanto, especialistas da Kaspersky também afirmaram que os usuários ainda podem reconhecer uma chamada fraudulenta por meio do comportamento pessoal, hábitos de fala e algumas características únicas.

“Essas características são difíceis de falsificar, então tente entrar em contato diretamente com a pessoa que você acredita estar sendo falsificada”, disse o pesquisador de segurança ao Tri Thuc – Znews .

"Corrida armamentista da IA"

O desenvolvimento da IA ​​obscura desencadeou uma corrida armamentista tecnológica entre cibercriminosos e especialistas em cibersegurança. "Pessoalmente, agora uso IA para tudo: pesquisa, programação, engenharia reversa. Minha produtividade este ano é de 10 a 20 vezes maior do que antes", admite Lozhkin.

"Se você não usar IA para criar um mecanismo de defesa enquanto os vilões usam IA para atacar, você perderá. Este é o início de uma corrida entre os mocinhos e os vilões que usam IA", alertou ele.

Adrian Hia, diretor da Kaspersky APJ, afirmou que a IA obscura está ajudando a criar malware mais rapidamente. Foto: Minh Khoi.

O Google informou ter bloqueado mais de 20 atividades maliciosas de grupos patrocinados por governos que tentavam usar o ChatGPT para criar malware e planejar ataques. Em 2024, a empresa identificou 40 grupos APT apoiados por governos usando modelos de IA.

Particularmente preocupantes são as plataformas completas como o Xanthorox, que oferece um serviço "pacote completo" por US$ 200 por mês, integrando geração de voz, e-mails de phishing e outras ferramentas de ataque em uma interface fácil de usar.

Especialistas da Kaspersky alertam que a IA oculta ainda está em seus estágios iniciais. Adrian Hia prevê que, nos próximos anos, o custo de sua utilização será muito menor, e ainda não se sabe até onde ela chegará.

“Mas do que tenho absoluta certeza é que estaremos prontos, porque estamos fazendo a mesma coisa, só que do lado oposto”, comentou o Sr. Lozhkin.

Fonte: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html