Elon Musk partage une vidéo deepfake imitant la voix de Mme Harris

La vidéo a attiré l'attention après que le milliardaire technologique Elon Musk l'a partagée sur le réseau social X dans la soirée du 26 juillet sans préciser que le but initial était de se moquer.

La vidéo utilise des images de Mme Harris publiées la semaine dernière lors du lancement de sa campagne. Cependant, la voix y est modifiée pour lui ressembler de manière convaincante.

« Moi, Kamala Harris, je suis la candidate démocrate à la présidence parce que Joe Biden a finalement montré sa confusion lors du débat », déclare la voix dans la vidéo. La vidéo affirme que Mme Harris est la candidate démocrate uniquement parce qu'elle est une femme et une personne de couleur, et affirme ne rien savoir de la gestion d'un pays.

Elon Musk, PDG de Tesla et SpaceX. Photo : AP

« Nous pensons que le peuple américain veut la véritable liberté, les opportunités et la sécurité que la vice-présidente Harris lui offre, et non les mensonges faux et manipulés d’Elon Musk », a déclaré Mia Ehrenberg, porte-parole de la campagne de Harris.

La vidéo ci-dessus illustre comment l'IA est utilisée pour se moquer et tromper la politique , notamment à l'approche de l'élection présidentielle américaine. Elle montre que, malgré la démocratisation des outils d'IA performants, d'importantes lacunes subsistent quant à leur utilisation.

Deux experts spécialisés dans les médias générés par l’IA ont examiné l’audio de la fausse vidéo et ont confirmé qu’une grande partie du contenu avait été créé à l’aide de la technologie de l’IA.

L'un d'eux, l'expert en criminalistique numérique Hany Farid de l'Université de Californie à Berkeley, a déclaré que la vidéo montre la puissance de l'IA générative et des deepfakes.

« La voix générée par l'IA est excellente. Même si la plupart des gens ne croiraient pas qu'il s'agit de la voix de la vice-présidente Harris, la vidéo reste très convaincante, car le discours lui ressemble parfaitement », a-t-il déclaré.

Les entreprises d’IA qui créent des outils de transcription vocale et d’autres outils d’IA devraient faire mieux pour garantir que leurs services ne sont pas utilisés d’une manière qui pourrait nuire au public, a-t-il déclaré.

Rob Weissman, coprésident du groupe de défense Public Citizen, n'était pas d'accord avec Farid, affirmant qu'il pensait que de nombreuses personnes seraient trompées par la vidéo.

Hoai Phuong (selon AP)

Source : https://www.congluan.vn/elon-musk-chia-se-video-deepfake-gia-giong-ba-harris-post305360.html