08:22, 12/09/2023
Les technologies d’intelligence artificielle (IA) créent des dangers alarmants dans la communauté sociale grâce à des techniques de tromperie de plus en plus sophistiquées.
Parmi elles, la technologie « deepfake » récemment développée attire de nombreux utilisateurs, notamment des femmes, qui souhaitent combiner leurs photos avec des images de reines de beauté, de mannequins ... pour paraître réelles, sans savoir que derrière cela se cachent des risques imprévisibles.
Récemment, une de mes connaissances a partagé un lien vers une vidéo intitulée « film révélateur » d'une célèbre star. En cliquant sur le lien, les internautes ont été surpris de découvrir le visage d'une jeune actrice en tenue sexy et en « intimité » avec un homme. Un expert en technologies a déclaré qu'il ne s'agissait pas d'un vrai film, mais simplement d'une arnaque technologique utilisant la technologie du « deepfake » pour créer l'image d'une autre personne.
 |
| Une photo d'un utilisateur générée par l'IA. Photo provenant d'Internet. |
Cet expert a également indiqué qu'au cours des dix derniers jours, une tendance s'est développée sur les réseaux sociaux : l'envoi de portraits à des logiciels d'intelligence artificielle (IA) permet d'obtenir des photos « très belles et réalistes ». De nombreux jeunes apprécient cette pratique et se conseillent mutuellement de choisir le logiciel le plus performant pour combiner de belles images, comme celles d'acteurs célèbres ou de mannequins. Certains logiciels permettent également de combiner des photos en vidéos. « Cependant, personne ne peut prédire le danger caché derrière ce jeu. En d'autres termes, un jour, vous verrez une image de vous-même dans un corps nu et sexy », a averti l'expert.
En remontant les informations, on constate que la technologie « deepfake » est développée sur la plateforme d'apprentissage automatique, à partir du code source ouvert de Google. Le terme « deepfake » est une combinaison des termes « deep learning » et « fake », qui signifie apprendre à créer des simulations. Cette technologie analyse la vidéo et le portrait d'un utilisateur spécifique, puis les fusionne avec d'autres vidéos ou photos pour créer une photo ou un clip. Grâce aux fonctionnalités intelligentes de l'IA, cette technologie peut remplacer les informations d'identification de base d'un visage humain, telles que les yeux, la bouche et le nez, ainsi que la vitesse des mouvements du visage et le son de la voix, pour créer une copie quasi réelle. Plus les données d'image originales sont nombreuses, plus il est facile pour l'IA d'apprendre et de créer un faux visage et une fausse image identiques à une personne réelle.
Avec le développement rapide des technologies, le « deepfake » se répand rapidement dans de nombreux domaines de la vie, aussi simplement que pour aider une personne à choisir une coiffure adaptée ou à créer une tenue. L'objectif applicatif de cette technologie est donc très positif et apprécié par de nombreux utilisateurs. Cependant, le revers de la médaille est la possibilité pour les individus et les criminels de l'utiliser à des fins malveillantes.
En conséquence, les utilisateurs qui fournissent leurs portraits ou vidéos à des logiciels de retouche photo en ligne deviendront facilement victimes de divertissements bon marché, tels que la retouche photo de nus, la stimulation sexuelle, etc. Les personnes qui retouchent des photos peuvent seulement se divertir, mais elles peuvent également utiliser ces fausses images pour attaquer les autres, ridiculiser, diffamer ou faire chanter, insulter l'honneur des autres et même confondre et détruire les relations des personnes impliquées.
Deuxièmement, les criminels peuvent utiliser l'IA pour créer de faux personnages, commettre des fraudes en ligne, comme appeler des proches pour emprunter de l'argent, ou voler des informations à des fins malveillantes. Ils peuvent même se faire passer pour des utilisateurs pour se connecter à des applications en ligne, acheter et vendre en ligne, par carte bancaire… et ainsi s'approprier des actifs. De là, des réseaux de fraude, d'extorsion et de terrorisme peuvent utiliser des comptes virtuels, avec de faux personnages, pour commettre des actes répréhensibles.
La communauté technologique a provisoirement répertorié de nombreux logiciels et outils web populaires utilisant la technologie « deepfake », tels que reface, zao, avatarify, deepfakes web β, myheritage, wombo… mais cette liste pourrait s'allonger et se diversifier en raison de l'évolution rapide des technologies. Par conséquent, la communauté de la cybersécurité recommande aux utilisateurs d'être extrêmement vigilants face aux arnaques utilisant cette technologie. S'ils ne sont pas vigilants, ils se rendront un jour compte que quelqu'un se fait passer pour eux pour retirer de l'argent à la banque ou… pour… faire des déclarations politiques terroristes sur un sujet précis.
Les filles et les garçons qui affichent joyeusement leurs photos en ligne, simulent leurs images et immortalisent des moments mémorables devraient y réfléchir à deux fois. Car rien n'est absolument gratuit et sûr pour les utilisateurs, et toute négligence peut avoir des conséquences très regrettables par la suite. La communauté en ligne a un dicton : « Amusez-vous, mais sans excès ». Il est peut-être pertinent de souligner cet avertissement !
Thuy Bat Nhi
Source
Comment (0)