En y regardant de plus près, elle réalisa qu'il s'agissait simplement d'une photo générée par intelligence artificielle et utilisée par une page Facebook pour illustrer une publication sentimentale. Il est à noter que c'était la deuxième fois qu'elle était « presque » dupée par une IA. Auparavant, elle avait également pris la vidéo « Des retraités rencontrant des vacanciers » pour une vidéo montrant de vraies personnes et un événement réel.

Travaillant dans le secteur des médias et étant régulièrement exposée à du contenu basé sur l'IA, Mme Linh a dû admettre que cette technologie s'est développée si rapidement et de manière si sophistiquée qu'il est difficile de distinguer le vrai du faux.

capture d'écran 1749203761184.png
La photo virale sur Facebook a été créée par une IA. Capture d'écran.

Les experts partagent également cet avis. Des outils comme Google Veo 3, Kling AI, DALL·E 3, Midjourney... sont désormais capables de créer des images et des vidéos d'un réalisme incroyable.

M. Do Nhu Lam, directeur de la formation à l'Institut de technologie Blockchain et d'intelligence artificielle ABAII, a souligné que grâce à la technologie multimodale et aux modèles de langage avancés, ces outils peuvent synchroniser les images, les sons, les expressions faciales et les mouvements naturels, créant ainsi des produits très convaincants.

W-Photo par M. Do Nhu Lam.jpg
M. Do Nhu Lam, directeur de la formation à l'Institut des technologies blockchain et de l'intelligence artificielle ABAII, a déclaré que les technologies d'IA avancées permettent de créer des produits extrêmement performants. Photo : NVCC

M. Lam a fait remarquer que les progrès de l'IA offrent un potentiel considérable dans des domaines tels que la création de contenu, la publicité, le divertissement et l'éducation . Toutefois, cette capacité à recréer des situations d'un réalisme saisissant soulève également de nombreux défis en matière d'éthique, de contrôle et de sécurité de l'information, la frontière entre réalité et virtualité étant de plus en plus floue.

La publication Facebook vue par Mme Linh a suscité près de 300 000 interactions et plus de 16 000 commentaires. Nombre d'utilisateurs se sont empressés de la féliciter ou d'exprimer leurs sentiments, ignorant qu'il s'agissait d'une simple illustration générée par une intelligence artificielle. D'autres, plus réalistes, ont reproché aux internautes leur naïveté, les accusant de se laisser berner par une IA.

Sur les groupes et forums Facebook, il est facile de trouver des vidéos créées et partagées par les utilisateurs grâce à l'intelligence artificielle. L'arrivée de Google Veo 3 a notamment permis d'améliorer considérablement la qualité de ces vidéos, en particulier la synchronisation labiale des personnages. Si l'on n'y prête pas attention, on peut facilement s'y perdre.

Garder la tête froide à l'ère de l'IA

Les photos et vidéos générées par l'IA sont difficiles à distinguer des véritables images ou vidéos, ce qui représente un risque important pour les utilisateurs, notamment les groupes vulnérables peu à l'aise avec les technologies. Selon M. Vu Thanh Thang, directeur de l'intelligence artificielle (CAIO) de la société par actions SCS Cyber ​​Security, l'IA est utilisée par les cybercriminels pour commettre des fraudes (contournement des systèmes biométriques, eKYC, etc.), usurper l'identité de personnalités publiques pour diffuser de fausses informations et semer la confusion au sein du public. De nombreux cas de cybercriminels utilisant l'IA pour créer des photos truquées (deepfakes) ou se faire passer pour des proches lors d'appels vidéo afin d'escroquer des personnes sont recensés.

M. Vu Thanh Thang.jpg
M. Vu Thanh Thang, directeur de l'intelligence artificielle (CAIO) de la société par actions SCS Cyber ​​Security, a déclaré que nous sommes entrés dans une ère où tout peut être falsifié. Photo : NVCC

D'après M. Thang, les entreprises sont également des cibles potentielles pour les cybercriminels utilisant l'IA. Ces derniers peuvent recourir aux deepfakes pour usurper l'identité d'employés, contourner les systèmes de sécurité afin d'accéder aux données de présence et se faire passer pour des dirigeants d'entreprise dans le but de diffamer et de nuire à leur réputation.

Partageant le même avis, M. Do Nhu Lam d'ABAII a souligné trois conséquences néfastes de l'IA pour les particuliers : la fraude financière, l'atteinte à la réputation et l'exploitation des données personnelles. Quant aux entreprises, Arup a perdu 25 millions de dollars après que des employés de sa filiale de Hong Kong ont été piégés et incités à participer à une réunion vidéo truquée (deepfake) et à effectuer des virements.

Tout ce que vous devez savoir sur Veo 3, l'outil d'IA actuel de génération de vidéos virales . Le dernier modèle d'IA de Google pour la génération de vidéos – Veo 3 – impressionne par sa capacité à créer un son synchronisé de manière réaliste avec les images.

Un autre risque tout aussi grave est que, lorsque les gens ne peuvent plus faire la différence entre le vrai et le faux, la confiance du public dans les médias et les sources d'information officielles s'érode.

M. Lam a cité un rapport de l'Institut Reuters de 2024 montrant que le pourcentage d'utilisateurs dans le monde qui font confiance aux informations diffusées sur les plateformes médiatiques a chuté à son plus bas niveau depuis dix ans, principalement en raison de l'émergence de contenus truqués (deepfakes).

Selon l’expert Vu Thanh Thang, « nous vivons à une époque où toute information peut être falsifiée et ne constitue plus un “risque” ». Il est donc nécessaire de sensibiliser le public, d’appliquer des mesures de protection personnelle et de s’informer sur l’IA pour vivre en paix .

Les deux experts recommandent aux utilisateurs de toujours vérifier et authentifier les informations avant de prendre des décisions ; de se renseigner sur les moyens d’identifier les contenus frauduleux ; de limiter le partage d’informations personnelles en ligne ; et de signaler la diffusion de fausses informations. « Ce n’est qu’en étant proactifs et informés que les utilisateurs peuvent véritablement se protéger et contribuer à la construction d’un cyberespace plus sûr à l’ère numérique », a déclaré M. Lam.

Inquiet de l'extinction de l'humanité due à l'IA, Yoshua Bengio, le « parrain » de l'IA, a pris une initiative. Il a fondé une organisation à but non lucratif visant à créer des systèmes d'intelligence artificielle sûrs, plutôt que de présenter des personnalités dangereuses aux humains.

Source : https://vietnamnet.vn/anh-ai-tran-ngap-facebook-tuong-vo-hai-nhung-cuc-nguy-hiem-2408883.html