Les experts recommandent de préparer un scénario de gestion de crise spécifiquement pour les deepfakes.

Que disent les experts du terme deepfake et du problème récent de la diffusion de fausses photos de célébrités nues, comme la chanteuse Taylor Swift sur X...

Vous trouverez ci-dessous les opinions de deux experts de l'université RMIT sur les effets néfastes des deepfakes et les solutions proposées à ce problème :

Le Dr Jonathan Crellin (à gauche) et le Dr Nguyen Van Thang Long (à droite). (Source : Université RMIT)

Les cybercriminels exploitent les nouvelles technologies de manière imprévue.

Dr Jonathan Crellin, responsable de la sécurité de l'information, faculté des sciences , de l'ingénierie et de la technologie, université RMIT :

Un deepfake est une image générée par une machine qui peut combiner des images ou des vidéos provenant de sources multiples, créant ainsi une image, une vidéo, voire un son très réaliste.

La technologie deepfake repose sur une technique d'intelligence artificielle appelée apprentissage automatique, qui permet de remplacer et d'intégrer des éléments comme le visage d'une personne dans une autre image ou vidéo.

Un exemple d'utilisation de deepfake consiste à combiner du contenu pornographique avec des photos de Taylor Swift pour créer de fausses images.

Pour ce faire, le cerveau de l'opération avait besoin de nombreuses images afin que le logiciel puisse apprendre les expressions faciales de la chanteuse, puis les combiner avec du contenu pornographique pour créer des photos obscènes, ternissant ainsi l'image de la chanteuse.

En réalité, la rumeur court que ces photos ont été diffusées par un groupe Telegram et qu'elles ont été créées à l'aide de l'outil Microsoft Designer avec assistance IA intégrée.

N'importe qui peut devenir victime, car les malfaiteurs n'ont besoin que d'une photo, d'une vidéo ou d'un enregistrement audio de la personne usurpée.

Les fausses informations, sous de nombreuses formes, peuvent être utilisées pour créer de fausses nouvelles, et il est fort probable que la prochaine élection présidentielle américaine en sera truffée.

Actuellement, des législateurs du monde entier envisagent d'adopter des lois contre ce type d'images.

Plusieurs approches commencent à être adoptées aux États-Unis en matière de législation, comme le recours à des poursuites civiles ou à des lois visant à lutter contre « la diffusion d'images à caractère sexuel explicite d'une personne générées par l'IA sans le consentement de cette personne ».

La Chine a également introduit de nouvelles réglementations qui permettraient de poursuivre en justice ceux qui diffusent des images générées par l'IA.

Le Royaume-Uni a rendu illégal le partage de contenus deepfake en vertu de sa loi sur la sécurité en ligne.

Comment détecter ou prévenir cela ?

La première étape consiste à réduire le nombre de photos, vidéos ou enregistrements audio que vous avez en ligne. Veillez à ne les partager qu'avec des personnes de confiance et à ne pas les diffuser largement sur Internet. Une fois en ligne, un contenu est quasiment impossible à supprimer.

La deuxième solution consiste à convenir d'un mot secret avec votre famille pour authentifier l'appel, réduisant ainsi le risque de tomber dans le piège d'un faux appel.

Les images, et notamment les vidéos, peuvent présenter des erreurs étranges (d'apparence mise en scène) ; si vous repérez ces erreurs, il y a de fortes chances que l'image ou le son ait été truqué.

Une autre technique possible consiste à rechercher « image inversée » sur Google ou d'autres moteurs de recherche, afin de déterminer la source de l'image originale.

La leçon finale est de ne pas croire aveuglément ce que vous voyez, la caméra (ou l'IA) peut mentir !

Les deepfakes représentent une menace considérable pour les célébrités et les personnalités politiques.

Dr Nguyen Van Thang Long, maître de conférences, faculté de communication et de design, université RMIT :

Face à la prolifération des fausses informations issues des deepfakes, les équipes médiatiques des célébrités et des politiciens doivent disposer de ressources pour surveiller et réagir rapidement aux fausses informations ou corriger en permanence les informations erronées.

Si les deepfakes sont systématiquement combinés à des formes organisées de « relations publiques douteuses », cette tâche devient encore plus difficile en raison de la prolifération d'informations contradictoires, et les fausses nouvelles et les informations négatives seront toujours plus partagées que les informations positives.

Généralement, lorsqu'ils voient des informations partagées sur les réseaux sociaux, les individus ont souvent l'habitude de vérifier ces informations auprès des médias officiels.

Face à l'afflux de contenus falsifiés sur les réseaux sociaux, il est de plus en plus difficile et chronophage de vérifier l'exactitude des informations traditionnelles, ce qui nécessite des techniques de recherche et de vérification approfondies.

Plus nous tardons à vérifier les informations et les sources, plus les informations fausses, fabriquées ou trompeuses risquent de se propager en raison de la rapidité avec laquelle elles sont partagées et commentées sur les réseaux sociaux.

Cela aggrave le problème sous-jacent et peut potentiellement engendrer des troubles sociaux, surtout si le contenu porte sur le discours politique, la religion, le genre, les stratégies commerciales ou les questions macroéconomiques.

Dans le contexte de la prolifération des deepfakes, la stratégie de gestion des risques la plus efficace reste le maintien de canaux de communication constants, via les plateformes de médias sociaux populaires, les sites web ou les rencontres en face à face, entre les entreprises, les célébrités, les politiciens et les principales parties prenantes telles que les fans, la presse, les communautés et les employés.

L'utilisation accrue de l'IA apporte à la fois des avantages et de nouveaux problèmes inattendus. Photo d'illustration. (Source : Freepik)

En maintenant ces canaux de communication, la réception d'informations relatives aux deepfakes devient plus rapide, permettant une correction rapide et efficace des rumeurs et la détection de la désinformation dès le départ.

Cependant, les entreprises, les célébrités et les personnalités politiques doivent élaborer un plan de gestion de crise spécifique aux deepfakes. Ce plan doit notamment définir qui les diffuse, par quels médias, les critères de vérification des informations (preuves et sources fiables), un calendrier de gestion des rumeurs et une stratégie de rétablissement de la réputation.

Avec un plan méthodique et bien préparé, la gestion de la crise des deepfakes sera plus facile, minimisant ainsi les conséquences fâcheuses qui pourraient survenir.

Source: https://baoquocte.vn/chuyen-gia-khuyen-cao-cach-chuan-bi-truoc-kich-ban-xu-ly-khung-hoang-danh-rieng-cho-deepfake-262149.html