Kaspersky explique comment identifier les arnaques utilisant des deepfakes.

SGGPO 20 octobre 2023 19:13

N'étant plus utilisé à des fins de divertissement, le deepfake est progressivement exploité par les cybercriminels pour devenir un outil de fraude... et la fraude par deepfake va se multiplier et prendre des formes toujours plus diverses et sophistiquées.

Kaspersky estime que les arnaques utilisant des deepfakes vont se multiplier et prendre des formes plus diversifiées et sophistiquées.

Après avoir mené des recherches sur les forums du darknet, où les cybercriminels opèrent fréquemment, Kaspersky a déterminé que de nombreux criminels utilisent des deepfakes à des fins frauduleuses, au point que la demande dépasse largement l'offre de logiciels deepfake actuellement disponibles sur le marché.

Les experts de Kaspersky prévoient que les arnaques par deepfake vont gagner en variété et en sophistication, allant de la proposition de vidéos d'usurpation d'identité de haute qualité avec services de production complets à l'utilisation d'images de célébrités dans de fausses diffusions en direct sur les réseaux sociaux et à la promesse de doubler la somme envoyée par la victime.

Bien que l'IA soit détournée par des criminels à des fins malveillantes, les particuliers et les entreprises peuvent néanmoins l'utiliser pour identifier les deepfakes et ainsi réduire les risques de réussite des escroqueries. Kaspersky propose des solutions pour se protéger contre les arnaques aux deepfakes :

Outils de détection de contenu par IA : Les logiciels de détection de contenu basés sur l’IA utilisent des algorithmes d’IA avancés pour analyser et déterminer le niveau de manipulation des fichiers image, vidéo et audio.

Contenu IA filigrané : Les filigranes servent de marques d’identification dans les images, vidéos, etc., afin d’aider les auteurs à protéger leurs droits d’auteur sur les œuvres créées par l’IA. Cependant, cet outil peut se retourner contre les deepfakes, car il permet de remonter jusqu’à la plateforme ayant créé l’IA.

Provenance du contenu : L’IA collectant de grandes quantités de données provenant de diverses sources pour créer du nouveau contenu, cette approche vise à retracer l’origine de ce contenu.

L'authentification vidéo est le processus de vérification que le contenu vidéo n'a pas été modifié depuis sa création. C'est le processus qui préoccupe le plus les créateurs de vidéos.

« Les deepfakes sont devenus un cauchemar pour les femmes et la société. La cybercriminalité » Des individus utilisent actuellement l'intelligence artificielle (IA) pour incruster les visages de victimes dans des photos et vidéos pornographiques, ainsi que dans des campagnes de propagande. Ces pratiques visent à manipuler l'opinion publique en diffusant de fausses informations, voire en portant atteinte à la réputation d'organisations ou de personnes. « Nous appelons le public à redoubler de vigilance face à cette menace », a déclaré Mme Vo Duong Tu Diem, directrice de Kaspersky Vietnam.

Source