Alors que les progrès technologiques continuent de façonner les médias sociaux et les médias de masse, les deepfakes deviennent une préoccupation majeure car le nombre d’escroqueries deepfake continue d’augmenter.
Les deepfakes peuvent être utilisés à de mauvaises fins
Après avoir étudié les forums du darknet, où opèrent souvent les cybercriminels, Kaspersky a déterminé que de nombreux criminels utilisent les deepfakes à des fins frauduleuses, à tel point que la demande dépasse de loin l'offre de logiciels deepfake actuellement sur le marché.
Alors que la demande dépasse l'offre, les experts de Kaspersky prédisent que les escroqueries deepfake vont gagner en variété et en sophistication, allant de l'offre d'une vidéo d'usurpation d'identité de haute qualité avec des services de production complets à l'utilisation d'images de célébrités dans de faux flux en direct sur les réseaux sociaux et à la promesse de doubler le montant que la victime lui a envoyé.
« Les deepfakes sont devenus un cauchemar pour les femmes et la société. Les cybercriminels exploitent désormais l'intelligence artificielle (IA) pour insérer les visages des victimes dans des photos et vidéos pornographiques, ainsi que dans des campagnes de propagande. Ces formes de manipulation visent à diffuser de fausses informations, voire à nuire à la réputation d'organisations ou d'individus. Nous appelons le public à redoubler de vigilance face à cette menace », a déclaré Mme Vo Duong Tu Diem, directrice nationale de Kaspersky Vietnam.
Selon Regula, un système de référence d'information, jusqu'à 37 % des entreprises dans le monde ont été confrontées à des arnaques par deepfake vocal et 29 % ont été victimes de deepfakes vidéo. Les deepfakes sont devenus une menace pour la cybersécurité au Vietnam, où les cybercriminels utilisent souvent des appels vidéo deepfakes pour se faire passer pour une personne et emprunter d'importantes sommes d'argent à leurs proches en cas d'urgence. De plus, un appel vidéo deepfake peut être passé en une minute seulement, ce qui rend difficile pour les victimes de distinguer les appels réels des faux.
Alors que l’IA est utilisée abusivement par des criminels à des fins malveillantes, les particuliers et les entreprises peuvent toujours exploiter l’IA pour identifier les deepfakes afin de réduire la probabilité de réussite des escroqueries.
Kaspersky partage des solutions pour que les utilisateurs puissent se protéger des escroqueries deepfake :
Outils de détection de contenu IA : Les logiciels de détection de contenu générés par IA utilisent des algorithmes avancés pour analyser et déterminer le degré de manipulation des images, des vidéos et des fichiers audio. Pour les vidéos deepfake, certains outils permettent d'identifier les mouvements de bouche et les paroles incohérents. Certains outils détectent les anomalies du flux sanguin sous-cutané en analysant la résolution vidéo, car lorsque le cœur pompe le sang, les veines humaines changent de couleur.
Contenu IA filigrané : les filigranes servent de marques d'identification dans les images, les vidéos, etc., pour aider les auteurs à protéger les droits d'auteur des œuvres IA. Cependant, cet outil peut devenir une arme contre les deepfakes, car cette forme permet de retracer l'origine de la plateforme qui a créé l'IA.
Provenance du contenu : Étant donné que l’IA collecte de grandes quantités de données provenant de diverses sources pour créer du nouveau contenu, cette approche vise à retracer l’origine de ce contenu.
Authentification vidéo : processus permettant de vérifier que le contenu vidéo n'a pas été modifié depuis sa création. C'est le processus qui préoccupe le plus les créateurs de vidéos. Certaines technologies émergentes utilisent des algorithmes cryptographiques pour insérer des valeurs de hachage à intervalles réguliers dans la vidéo. Si la vidéo a été modifiée, la valeur de hachage sera modifiée.
Lien source
Comment (0)