Dangereux, mais évitable

SGGP 30/03/2023 07:19

Deepfake est un terme qui combine les concepts d'apprentissage profond et de faux. Il s'agit d'une technique de synthèse d'images humaines basée sur l'intelligence artificielle (IA). Deepfake permet d'associer le visage d'une personne à celui d'une autre dans une vidéo avec un réalisme époustouflant.

Un cas de greffe de visage se faisant passer pour un célèbre acteur étranger

Comment Deepfake « apprend-il par lui-même » ?

Basé sur la plateforme open source de Machine Learning de Google, Deepfake utilise l'IA pour scanner les vidéos et les portraits d'une personne, les fusionner avec une vidéo distincte et remplacer les détails du visage (yeux, nez, bouche, etc.) par des mouvements aussi similaires et naturels que possible. Grâce à cet algorithme, plus les vidéos et images originales sont nombreuses, plus l'IA est précise et plus la fausse vidéo est réaliste. Deepfake peut également utiliser l'enregistrement vocal d'une personne pour entraîner l'ordinateur à parler exactement comme cette personne.

La technologie Deepfake s'améliore de plus en plus

À l'origine, les applications d'IA Deepfake ont été créées pour « permuter » les visages et les voix des utilisateurs avec ceux de personnages de films célèbres. Cette pratique est considérée comme la prochaine étape de la tendance de création de photos et de doublage de voix humoristiques pour des clips qui a fait fureur il y a quelque temps.

Les entreprises qui proposent des logiciels Deepfake affirment que leur application n'est pas née avec de mauvaises intentions, mais simplement une application de divertissement. Cependant, cette technologie étant utilisée à des fins encore plus malveillantes, l'évocation récente du Deepfake évoque souvent des outils malveillants.

Selon le Forum économique mondial (FEM), le nombre de vidéos deepfakes augmente de 900 % par an. Les récentes avancées technologiques facilitent leur production.

En cas d'usurpation d'identité par deepfake, il est conseillé d'en informer immédiatement ses proches et les autorités via : la page d'alerte sur la sécurité informatique au Vietnam : canhbao.ncsc.gov.vn ; le site anti-fraude : chongluadao.vn. Il est également conseillé de sensibiliser les personnes concernées aux fraudes en ligne via le site web : dauhieuluadao.com.
Ngo Minh Hieu - Centre national de surveillance de la cybersécurité

Comment identifier un deepfake

Étant donné que la puissance de calcul des applications Deepfake n’est pas encore parfaite, les vidéos utilisant Deepfake sont souvent de petite taille, de courte durée et ont une qualité sonore et d’image médiocre.

Le corps du personnage dans Deepfake bouge moins, notamment moins latéralement, face vers le haut ou face vers le bas par rapport aux vidéos normales, et il n'y a pas d'actions consistant à se frotter les yeux ou à se couvrir le visage, ou à cligner des yeux car l'IA gère souvent les erreurs lorsque le visage est partiellement couvert.

Les vidéos Deepfake créées avec l'IA présenteront des faiblesses telles qu'une réflexion lumineuse inégale des deux yeux du personnage, des ombres lumineuses non naturelles sur le visage, de nombreuses zones du visage presque inchangées, conduisant à des expressions faciales, des émotions et des voix irréelles très peu naturelles...

Lors d'un appel vidéo, les utilisateurs peuvent demander à leur interlocuteur de lever la main ou de tourner le visage vers la gauche, la droite, etc. pour activer la détection des gestes. Parallèlement, pour renforcer la vigilance, il est nécessaire de discuter longuement avec l'appelant afin de s'assurer que l'appel est réel et non enregistré. Il est particulièrement important de prêter attention aux informations relatives aux transferts d'argent, à l'envoi d'informations à des adresses ou des comptes inconnus, etc.

VU NGOC SON

Directeur de la technologie, Société nationale vietnamienne de technologie de cybersécurité

Source