Se défendre de manière proactive contre les outils d'attaque de l'IA

IA malveillante bon marché et accessible

Sur les forums du dark web, des outils comme WormGPT, FraudGPT et EvilCoder AI ne sont plus secrets, mais sont ouvertement présentés comme des services d'abonnement classiques. Le plus inquiétant est que, pour quelques centaines de dollars par an, n'importe qui peut posséder un dangereux « assistant IA » capable de mener des cyberattaques sophistiquées.

Les experts en sécurité nationaux et internationaux ont récemment constaté une augmentation rapide des attaques provenant de ces outils d'IA malveillants. Pour un montant mensuel d'environ 200 USD, FraudGPT permet aux utilisateurs de créer immédiatement une série d'e-mails d'hameçonnage personnalisés au contenu réel ou d'exploiter une faille de sécurité complète.

WormGPT, une version plus abordable du malware IA, ne coûte que 60 EUR par mois et permet de produire des malwares polymorphes capables de muter en continu pour contourner la plupart des antivirus traditionnels. Il s'agit d'un nouveau défi pour les équipes de sécurité des entreprises, car les attaquants n'ont plus besoin de compétences avancées en programmation ; il leur suffit de savoir utiliser les outils disponibles.

Les modèles d'IA malveillants comme WormGPT et FraudGPT reposent sur des architectures de modèles de langage similaires à celles de ChatGPT, mais ont été perfectionnés pour supprimer les obstacles éthiques. Ces outils peuvent :

Générez automatiquement des e-mails de phishing avec un contenu parfaitement personnalisé, basé sur des informations collectées à partir de plateformes de médias sociaux ou de sources de données publiques.

Écrivez de nouveaux types de logiciels malveillants de manière entièrement automatique, en modifiant continuellement les signatures pour éviter la détection par les solutions antivirus traditionnelles basées sur le hachage.

Développez automatiquement un code d’exploitation qui cible les vulnérabilités de sécurité connues (CVE), facilitant ainsi la pénétration des systèmes vulnérables par les attaquants.

Les forums du dark web proposent également une assistance et des guides d'utilisation détaillés, permettant à quiconque, même aux non-techniciens, de lancer une attaque.

Au premier trimestre 2025, de nombreuses entreprises internationales ont enregistré de graves attaques provenant de ces outils d'IA. Certaines entreprises américaines et européennes ont signalé avoir été confrontées à des campagnes de phishing et de logiciels malveillants sans précédent, rendant les systèmes de sécurité traditionnels quasiment inopérants.

Défense proactive de l'IA à la volée

Conscients de cette réalité, les experts en sécurité de CMC Telecom ont rapidement déployé des solutions de défense spéciales pour contrer les outils d'attaque d'IA bon marché et facilement accessibles sur :

Technologie de tromperie : crée activement un environnement simulé dans le système, obligeant les pirates informatiques à perdre du temps sur de fausses cibles, aidant ainsi les entreprises à identifier et à analyser les techniques d'attaque à un stade précoce.

Sandboxing intégré à l'IA : tous les e-mails et fichiers suspects sont soigneusement examinés dans un environnement d'isolement virtuel pour détecter les signes de malware polymorphe.

SOAR - Automatisation de la réponse aux incidents : lors de la détection de signes d'attaque provenant de logiciels malveillants pilotés par l'IA, le système prend automatiquement des mesures de réponse rapides, minimisant ainsi les dommages et le temps de réponse.

Advanced Threat Intelligence : analysez chaque jour les nouvelles données d'attaque, mettez à jour en permanence les indicateurs de compromission (IOC), aidant ainsi les entreprises à garder une longueur d'avance sur les attaquants.

Ces solutions sont exploitées par l'équipe d'experts en sécurité de CMC Telecom. Cette équipe a été régulièrement honorée au Hall of Fame d'Apple et possède de nombreuses certifications internationales telles que OSCP, CREST et CHFI.

Selon M. Luu The Hien, directeur adjoint du Centre de services de sécurité de l'information de CMC Telecom, des outils comme WormGPT et FraudGPT ne sont plus une menace d'avenir, mais représentent une menace existentielle. Les dirigeants d'entreprise doivent en être pleinement conscients : ils ne peuvent plus attendre ni retarder l'accès immédiat aux technologies de défense adéquates.

L'équipe d'experts de CMC Telecom estime que ce n'est qu'en appliquant de manière proactive l'IA à la sécurité que nous pourrons lutter contre les cyberattaques de l'IA de manière sophistiquée et peu coûteuse, en particulier lorsqu'elles se produisent à un rythme plus rapide que jamais.

Thuy Nga

Source : https://vietnamnet.vn/chu-dong-phong-ve-truoc-cac-cong-cu-tan-cong-ai-2415360.html