Dangereux, mais évitable

SGGP 30/03/2023 07:19

Deepfake est un terme qui combine les concepts de deep-learning et de fake, une technique de synthèse d'images humaines basée sur l'intelligence artificielle (IA). Les deepfakes peuvent superposer le visage d'une personne sur celui d'une autre dans une vidéo avec un réalisme étonnant.

Un cas de greffe de visage se faisant passer pour un célèbre acteur étranger

Comment Deepfake « apprend-il de lui-même » ?

Construit sur la plateforme open source Machine Learning de Google, utilisant l'IA, Deepfake analysera les vidéos et les portraits d'une personne, les fusionnera avec une autre vidéo distincte et remplacera les détails du visage tels que les yeux, le nez, la bouche... par des mouvements du visage aussi similaires et naturels que possible. Avec cet algorithme, plus il y a de vidéos et d'images originales, plus l'IA travaille avec précision et plus la fausse vidéo est réaliste. Les deepfakes peuvent également utiliser des enregistrements de la voix d'une personne pour entraîner un ordinateur à parler exactement comme cette personne.

La technologie Deepfake s'améliore de plus en plus

Au début, les applications d'IA Deepfake ont été créées pour « échanger » les visages et les voix des utilisateurs avec des personnages de films célèbres. Ceci est considéré comme la prochaine étape dans la tendance de création de photos amusantes et de clips de doublage qui a provoqué une fièvre il y a quelque temps.

Les entreprises qui fournissent des logiciels Deepfake affirment que leurs applications ne sont pas créées avec une intention malveillante, mais sont simplement destinées à des fins de divertissement. Cependant, comme cette technologie est utilisée à des fins encore plus malveillantes, récemment, lorsqu’on évoque Deepfake, les gens pensent à de mauvais outils.

Selon le Forum économique mondial (WEF), le nombre de vidéos Deepfake augmente à un rythme de 900 % par an. Les progrès technologiques récents ont facilité leur production.

Si vous vous faites passer pour un Deepfake, vous devez immédiatement en informer vos amis et votre famille et prévenir les autorités via : Page d'avertissement de sécurité de l'information du Vietnam : canhbao.ncsc.gov.vn ; Projet anti-fraude : chongluadao.vn. Les gens sensibilisent à la cyberfraude via le site Web : dauhieuluadao.com
Ngo Minh Hieu - Centre national de surveillance de la cybersécurité

Comment identifier un deepfake

Étant donné que la puissance de calcul des applications Deepfake n’est pas encore parfaite, les vidéos utilisant Deepfake sont souvent de petite taille, de courte durée et ont une qualité sonore et d’image médiocre.

Le corps du personnage dans Deepfake bouge moins, surtout moins latéralement, face vers le haut ou face vers le bas par rapport aux vidéos normales, et il n'y a pas d'actions consistant à se frotter les yeux ou à se couvrir le visage, ou à cligner des yeux car l'IA gère souvent les erreurs lorsque le visage est partiellement couvert.

Les vidéos Deepfake créées avec l'IA présenteront des faiblesses telles qu'une réflexion lumineuse inégale des deux yeux du personnage, des ombres lumineuses non naturelles sur le visage, de nombreuses zones du visage presque inchangées, conduisant à des expressions faciales, des émotions et des voix irréelles très artificielles...

Lors d'un appel vidéo, les utilisateurs peuvent demander à l'appelant de lever la main vers son visage ou de tourner son visage vers la gauche, la droite… pour ajouter la détection des gestes. Parallèlement, pour augmenter la vigilance, il est nécessaire de beaucoup parler avec l'appelant pour s'assurer que l'appel est réel et non une conversation sur une vidéo préenregistrée. En particulier, vous devez prêter attention aux informations relatives aux transferts d'argent, à l'envoi d'informations à des adresses étranges, à des comptes étranges...

VU NGOC SON

Directeur de la technologie, Société nationale vietnamienne de technologie de cybersécurité

Source