L'IA générative pose de nombreux risques en matière de cybersécurité, notamment à la suite des cyberescroqueries généralisées à Hong Kong, selon une société de cybersécurité qui déploie l'IA pour lutter contre cette menace.
Les courriels d'hameçonnage et les appels d'usurpation d'identité générés par l'intelligence artificielle deviennent de plus en plus sophistiqués et difficiles à détecter. (Photo : Shutterstock)
À Hong Kong, des escrocs ont escroqué 4,8 milliards de dollars de Hong Kong (611,5 millions de dollars) par le biais de conversations en ligne, d'appels téléphoniques et de SMS. Les enregistrements audio, vidéo et SMS générés par l'IA rendent ces types d'escroqueries plus difficiles à détecter.
L'émergence d'outils d'IA génératifs comme ChatGPT permettra à certains types d'escroqueries de devenir plus répandues et plus efficaces, a déclaré Kim-Hock Leow, PDG Asie de Wizlynx Group, une société de services de cybersécurité basée en Suisse.
« Nous pouvons voir que le mimétisme de la voix et de la vidéo devient de plus en plus réaliste et qu’il peut être utilisé par ceux qui cherchent à voler des informations et à compromettre la cybersécurité des entreprises », a-t-il partagé.
Les gouvernements commencent à prendre des mesures contre la montée des escroqueries en ligne. En février, le Bureau municipal de la sécurité publique de Pékin a averti, dans un communiqué sur WeChat, que les escrocs pourraient utiliser l'IA pour « commettre des délits et propager des rumeurs ». En mars, la Commission fédérale du commerce des États-Unis a émis un avertissement concernant les escrocs utilisant des voix générées par l'IA pour se faire passer pour des personnes en utilisant uniquement un court extrait audio de leur voix en ligne.
« Tout le monde est vulnérable aux attaques de phishing, mais elles sont facilement détectées en raison de la longueur, des fautes d'orthographe ou du manque de contexte concernant vous et votre travail. Mais désormais, les cybercriminels peuvent utiliser de nouveaux modèles linguistiques d'IA pour complexifier leurs e-mails de phishing », a déclaré Kim-Hock Leow .
Ces escroqueries utilisent un outil comme ChatGPT pour analyser et professionnaliser le langage des messages. Cela peut inclure une recherche contextuelle rapide pour ajouter des informations contextuelles et personnaliser les e-mails frauduleux.
Les établissements financiers déploient désormais ChatGPT pour lutter contre ces escroqueries sophistiquées. Ils utilisent des chatbots pour générer des e-mails d'hameçonnage à des fins de formation antifraude, ainsi que pour identifier les vulnérabilités et mener des recherches sur les systèmes de cybersécurité.
« Sur la base des connaissances et des données que l’IA peut collecter et générer au fil du temps, les experts en cybersécurité peuvent l’utiliser pour identifier avec précision les zones vulnérables et à risque du système de sécurité », a partagé M. Leow.
« Nous devons encourager les professionnels de la cybersécurité et d'autres secteurs à utiliser ChatGPT pour améliorer leurs défenses. D'une certaine manière, c'est une arme à double tranchant qui sera utilisée à la fois pour la cybersécurité et la cybercriminalité », a-t-il ajouté.
Les conditions d'utilisation d'OpenAI, le créateur de ChatGPT, interdisent l'utilisation de sa technologie à des fins illégales. Cependant, le risque que des acteurs malveillants contournent les filtres de ChatGPT subsiste, a déclaré Leow.
Selon un rapport de Cybersecurity Ventures, la cybercriminalité devrait coûter 8 000 milliards de dollars à l’échelle mondiale cette année en argent volé, en actifs perdus et en perte de productivité.
Face à cette menace, une course à l'intelligence artificielle pourrait se déclencher dans le domaine de la cybersécurité. « Dans les années à venir, nous verrons les équipes de sécurité adopter efficacement l'IA pour améliorer la reconnaissance des menaces et automatiser une grande partie du processus de défense », a déclaré David Fairman, directeur des systèmes d'information pour l'Asie- Pacifique chez Netskope.
Khanh Ly (Source : SCMP)
Utile
Émotion
Créatif
Unique
Colère
Source
Comment (0)