Outre ses impacts négatifs sur l'environnement et les ressources, l'intelligence artificielle (IA) devient rapidement un outil à haut risque en matière de cybersécurité. À titre d'exemple, OALABS Research a récemment révélé le cas d'un pirate informatique amateur éthiopien ayant utilisé des agents d'IA de Claude et du Codex d'OpenAI pour mener une série de cyberattaques.
Malgré un message truffé de fautes d'orthographe et de grammaire et des instructions vagues, cet individu a réussi à compromettre de nombreux serveurs privés. Ce pirate informatique s'est infiltré dans les données sécurisées d'au moins 14 entreprises et a même projeté de dérober l'équivalent de 4 millions de dollars en cryptomonnaie.
Des pirates informatiques amateurs ont utilisé Claude et le Codex pour attaquer 14 entreprises.
Les pirates informatiques et leurs tactiques d'exploitation de l'IA pour contourner les barrières du système.
Les attaquants ont contourné relativement facilement les mesures de sécurité robustes du modèle Claude Opus grâce à une manipulation psychologique. Se faisant passer pour des membres effectuant des recherches sur les failles de sécurité, les pirates ont trompé le chatbot IA, qui a alors automatiquement fourni l'intégralité du code source de l'attaque. Le système a même détaillé les méthodes d'exploitation, telles que l'extorsion et la vente de données, et a donné des instructions précises sur la manière de voler des données. Ce chatbot n'a bloqué qu'une seule requête, qui ciblait délibérément les comptes numériques personnels d'une famille en particulier.
Cet incident inhabituel a été entièrement révélé après qu'une victime, dont le serveur avait été compromis, a contacté les experts d'OALABS . L'identité du jeune pirate a été démasquée car il avait préalablement demandé à l'IA de modifier son profil personnel. Cet incident a soulevé de vives inquiétudes quant à la facilité d'accès du public à ces puissants outils technologiques, sans nécessiter de connaissances spécialisées. Les utilisateurs pourraient aisément recourir à une autre IA pour concevoir des commandes d'attaque tout aussi dangereuses.
Actuellement, des géants de la technologie comme Anthropic et OpenAI sont dans l'impasse quant à la recherche d'une solution définitive pour prévenir de telles attaques. Resserrer les limitations du modèle priverait directement les véritables chercheurs en sécurité de la possibilité de renforcer le système. À l'inverse, le maintien du statu quo ferait de la frontière entre utilisation éthique et gain illicite un obstacle insurmontable pour l'IA. Trouver la solution optimale pour prévenir les intentions malveillantes des utilisateurs demeure un défi non résolu.
Selon le journal Thanh Nien
Source : https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html
