Le danger des criminels possédant une « IA sombre »

Les outils d’IA spécialement formés pour les cyberattaques deviennent plus efficaces, ce qui les rend plus complexes à contrer.

L'IA devient un puissant assistant pour les cybercriminels. Photo : Cato Networks .

Les cybercriminels n'utilisent pas seulement l'IA pour créer des attaques plus sophistiquées que jamais. En moins de deux ans, les outils d'IA destinés aux pirates ont rapidement évolué en termes de fonctionnalités et d'efficacité.

Adrian Hia, directeur de Kaspersky Asie et Japon (APJ), a déclaré que l'IA sombre joue un rôle majeur dans la croissance rapide des malwares. Les statistiques de Kaspersky montrent que près d'un demi-million de malwares sont créés chaque jour.

« L’IA sombre est comme le dark web – le côté obscur du web que nous utilisons tous les jours », a déclaré M. Hia.

Sergey Lozhkin, responsable de l'équipe mondiale de recherche et d'analyse de Kaspersky (GReAT) pour les régions Asie- Pacifique (APAC) et Moyen-Orient, Afrique et Turquie (META), a déclaré que Dark AI est complètement différent des chatbots IA conventionnels, tels que ChatGPT ou Gemini.

L’IA que les utilisateurs connaissent est créée pour les aider et effectuer des tâches légitimes, et même s’ils reçoivent l’ordre de créer des logiciels malveillants ou d’effectuer des activités illégales, les utilisateurs auront du mal à atteindre leurs objectifs.

En revanche, l'IA sombre « est en réalité des LLM ou chatbots créés uniquement pour mener des activités malveillantes dans le cyberespace », a déclaré Lozhkin. Ces IA sont entraînées à générer des logiciels malveillants, du contenu d'hameçonnage, voire un framework complet permettant aux cybercriminels de les utiliser à des fins frauduleuses.

Système d'IA caché réservé aux pirates informatiques réputés

Ces systèmes, que M. Lozhkin appelle Black Hat GPT ou « black hat GPT », existent depuis 2023. Les représentants de Kaspersky ont déclaré qu'à cette époque, l'IA était très basique, créait un très mauvais code et pouvait être détectée immédiatement.

Cependant, les systèmes GPT black hat sont récemment devenus plus complets et offrent de nombreuses fonctionnalités, allant de la création de code malveillant et de contenu frauduleux à l'usurpation d'identité vocale et vidéo . Parmi les noms connus, on trouve WormGPT, DarkBard ou FraudGPT.

Sergey Lozhkin, chercheur chez Kaspersky, prévient que la qualité de l'IA sombre s'améliore sans cesse. Photo : Minh Khoi.

L'une des découvertes les plus inquiétantes de Kaspersky a été l'existence de systèmes privés d'IA sombre, réservés aux cybercriminels réputés. Pour y accéder, les pirates doivent se forger une réputation sur des forums clandestins.

« On ne peut accéder à ce type de systèmes que si l'on est digne de confiance. Il faut se forger une réputation sur des forums clandestins pour avoir accès à ces assistants », a déclaré un expert de Kaspersky.

Lozhkin a déclaré que Kaspersky dispose d'une unité de « Digital Footprint Intelligence » qui passe des années à infiltrer les forums clandestins et à surveiller et suivre leurs activités. Une fois que l'entreprise a accès à de nouveaux systèmes, elle continue de consacrer beaucoup de temps à comprendre le fonctionnement de l'IA obscure, ses fonctions et son efficacité.

L'IA sombre devient plus forte

L'IA sombre devient un outil efficace pour les hackers expérimentés. Pour ceux qui ne possèdent que des connaissances de base en programmation, faire appel à un générateur de rançongiciels peut se limiter à créer des logiciels facilement reconnaissables par les antivirus. En revanche, pour les hackers expérimentés, l'IA sombre peut accroître la productivité du codage et créer de nouveaux malwares.

« Cette qualité dépend beaucoup de chaque plateforme ou Dark AI. Certains génèrent du code de très mauvaise qualité, mais certains outils peuvent atteindre 7 à 8 points sur 10 », a expliqué M. Lozhkin à Tri Thuc - Znews .

Un exemple est la capacité à créer du code polymorphe. Auparavant, lorsqu'un code malveillant était détecté par un antivirus, les pirates mettaient beaucoup de temps à le modifier. Désormais, l'IA noire peut le faire « quasiment instantanément » pour créer une version plus difficile à détecter.

De plus, les dark LLM brisent la barrière de la langue lors des attaques de phishing. Les experts de Kaspersky affirment que la nouvelle génération d'e-mails de phishing est plus difficile à détecter en raison de leur anglais presque parfait, qui peut même « ressembler exactement à la voix du PDG ».

Certains systèmes d'IA sombre « tout-en-un » peuvent générer du code, intégrer l'usurpation d'identité vocale et envoyer des e-mails d'hameçonnage. Photo : Kaspersky.

La capacité de création de fausses voix et images du système spécialisé d'IA sombre est également de plus en plus perfectionnée. M. Lozhkin a même déclaré qu'il « ne croyait plus aux appels vidéo » grâce à son expérience d'agent de sécurité.

Cependant, les experts de Kaspersky ont également déclaré que les utilisateurs peuvent toujours reconnaître un appel frauduleux grâce à leur comportement personnel, leurs habitudes de parole et certaines caractéristiques uniques.

« Ces fonctionnalités sont difficiles à falsifier, alors essayez de contacter directement la personne que vous pensez être falsifiée », a déclaré le chercheur en sécurité à Tri Thuc – Znews .

« Course aux armements de l'IA »

Le développement de l'IA sombre a déclenché une course aux armements technologiques entre cybercriminels et professionnels de la cybersécurité. « Personnellement, j'utilise l'IA pour tout désormais : recherche, programmation, rétro-ingénierie. Ma productivité cette année est 10 à 20 fois supérieure à celle d'avant », admet Lozhkin.

« Si vous n'utilisez pas l'IA pour créer un mécanisme de défense tandis que les méchants l'utilisent pour attaquer, vous perdrez. C'est le début d'une course entre les bons et les méchants utilisant l'IA », a-t-il averti.

Adrian Hia, directeur de Kaspersky APJ, a déclaré que l'IA sombre contribue à accélérer la création de logiciels malveillants. Photo : Minh Khoi.

Google a signalé avoir bloqué plus de 20 activités malveillantes de groupes soutenus par des États qui tentaient d'utiliser ChatGPT pour créer des logiciels malveillants et planifier des attaques. En 2024, Google a identifié 40 groupes APT soutenus par des gouvernements grâce à des modèles d'IA.

Les frameworks complets comme Xanthorox, qui proposent un service complet pour 200 $ par mois, sont particulièrement inquiétants. Le système intègre la génération vocale, les e-mails d'hameçonnage et d'autres outils d'attaque dans une interface conviviale.

Les experts de Kaspersky préviennent que l'IA sombre n'en est qu'à ses balbutiements. Adrian Hia prédit que son coût d'utilisation sera probablement bien moindre dans les années à venir, et son développement reste encore incertain.

« Mais ce dont je suis absolument sûr, c'est que nous serons prêts, car nous faisons la même chose mais du côté opposé », a commenté M. Lozhkin.

Source : https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html