OpenAI alerta que hackers estão usando IA para operar de forma mais sofisticada

Grupos de hackers ao redor do mundo estão explorando IA para compor malware, criar e-mails de phishing e coletar dados, tornando os ataques cibernéticos mais difíceis de detectar e prevenir, alerta a OpenAI.

O relatório de outubro da OpenAI descobriu que os cibercriminosos em todo o mundo estão integrando principalmente inteligência artificial (IA) em canais de ataque existentes para melhorar o desempenho, em vez de desenvolver ferramentas ou métodos de ataque totalmente novos.

De acordo com a OpenAI, grande parte da atividade detectada envolveu o uso de IA para auxiliar em tarefas familiares, como desenvolver malware, construir infraestrutura de controle, criar e-mails de phishing mais sofisticados e coletar informações sobre alvos.

“As equipes bloqueadas estavam, em sua maioria, incorporando IA em processos existentes, em vez de criar novos processos baseados em IA”, afirma o relatório.

O relatório também descobriu que muitos grupos de usuários aproveitaram grandes modelos de linguagem (LLMs) para extrair conhecimento em uma variedade de domínios técnicos, desde o desenvolvimento de aplicativos até a configuração de sistemas de rede, geralmente de uma forma que especializa cada conta para uma tarefa específica.

Várias outras redes de usuários foram identificadas como utilizando plataformas de IA para gerar conteúdo online, incluindo artigos, imagens e vídeos , para veicular campanhas de mídia ou promover determinados pontos de vista. No entanto, a maioria dessas contas é ineficaz, com níveis de engajamento muito baixos.

Além disso, a OpenAI também registrou o fenômeno de centros de fraude e cibercriminosos usando o ChatGPT para apoiar atividades fraudulentas online em Mianmar e Camboja. Alguns casos mostram que a IA é usada não apenas para editar conteúdo, mas também para gerenciar cronogramas de trabalho, recursos humanos e finanças.

No entanto, a OpenAI observa que a IA também está sendo usada ativamente para prevenir fraudes. Estima-se que o ChatGPT seja usado três vezes mais para identificar e evitar golpes do que para cometer fraudes.

A maioria das solicitações maliciosas é rejeitada pelo sistema, mas o relatório observa que ainda há uma “área cinzenta” onde solicitações técnicas ou baseadas em pesquisa podem ser exploradas para fins não intencionais.

No entanto, a OpenAI afirma que o código ou conteúdo criado não é malicioso até que seja mal utilizado fora da plataforma./.

(TTXVN/Vietnã+)

Fonte: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp