OpenAI avertit que les pirates informatiques utilisent l'IA pour opérer de manière plus sophistiquée

Le rapport d'octobre d'OpenAI a révélé que les cyberacteurs du monde entier intègrent principalement l'intelligence artificielle (IA) dans les pipelines d'attaque existants pour améliorer les performances, plutôt que de développer des outils ou des méthodes d'attaque entièrement nouveaux.

Selon OpenAI, une grande partie de l’activité détectée impliquait l’utilisation de l’IA pour aider à des tâches familières telles que le développement de logiciels malveillants, la création d’infrastructures de contrôle, la création d’e-mails de phishing plus sophistiqués et la collecte d’informations sur les cibles.

« Les équipes bloquées intégraient principalement l’IA dans les processus existants, plutôt que de créer de nouveaux processus basés sur l’IA », indique le rapport.

Le rapport a également révélé que de nombreux groupes d'utilisateurs ont exploité de grands modèles linguistiques (LLM) pour exploiter des connaissances dans divers domaines techniques, du développement d'applications à la configuration de systèmes réseau, souvent d'une manière qui spécialise chaque compte pour une tâche spécifique.

Plusieurs autres réseaux d'utilisateurs ont été identifiés comme utilisant des plateformes d'IA pour générer du contenu en ligne, notamment des articles, des images et des vidéos , afin de diffuser des campagnes médiatiques ou de promouvoir certains points de vue. Cependant, la plupart de ces comptes sont inefficaces et affichent un taux d'engagement très faible.

OpenAI a également recensé le phénomène des centres de fraude et des cybercriminels utilisant ChatGPT pour soutenir leurs activités frauduleuses en ligne au Myanmar et au Cambodge. Certains cas montrent que l'IA est utilisée non seulement pour éditer du contenu, mais aussi pour gérer les horaires de travail, les ressources humaines et les finances.

Cependant, OpenAI note que l'IA est également activement utilisée pour prévenir la fraude. On estime que ChatGPT est utilisé trois fois plus souvent pour identifier et éviter les escroqueries que pour commettre des fraudes.

La plupart des requêtes malveillantes sont rejetées par le système, mais le rapport note qu’il existe toujours une « zone grise » où les requêtes techniques ou basées sur la recherche peuvent être exploitées à des fins non prévues.

Cependant, OpenAI affirme que le code ou le contenu créé n'est pas malveillant jusqu'à ce qu'il soit utilisé à mauvais escient en dehors de la plateforme./.

(TTXVN/Vietnam+)

Source : https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp