Le nouvel outil de création vidéo d'OpenAI plonge des familles de célébrités dans la crise, car des images de leurs proches décédés sont « ressuscitées » par l'IA dans des vidéos offensantes, déformées et parfois humiliantes.
Les vidéos générées par l'IA de personnes décédées, de Malcolm X à Whitney Houston en passant par Kobe Bryant, ont suscité la polémique, soulevant des questions sur les limites éthiques et le contrôle de l'image à l'ère de l'IA.
Contenu offensant
Ilyasah Shabazz, la fille du militant des droits civiques Malcolm X, affirme ne pas vouloir voir les vidéos de son père générées par intelligence artificielle. Ces vidéos ont été réalisées à l'aide de Sora 2, le nouvel outil de conversion texte-vidéo d'OpenAI, pour créer des scènes où Malcolm X fait des blagues de mauvais goût et se dispute avec le révérend Martin Luther King.
« Il est irrespectueux et déchirant de voir l’image de mon père exploitée de façon aussi insensée. Je ne comprends pas pourquoi les personnes qui développent cette technologie n’agissent pas avec la même conscience et le même respect qu’elles auraient pour leur propre famille », a déclaré Shabazz au Washington Post .
 |
Sora 2 crée des vidéos à partir d'images de personnes décédées sans autorisation. Photo : Bloomberg . |
Sora 2 est rapidement devenu un phénomène mondial grâce à sa capacité à créer des vidéos incroyablement réalistes. Quelques jours seulement après son lancement, l'application s'est hissée en tête des classements de téléchargement. Cependant, sa diffusion fulgurante a également entraîné l'apparition sur les réseaux sociaux de nombreuses fausses vidéos de célébrités.
Les images « ressuscitées » de Michael Jackson, Elvis Presley et Amy Winehouse se sont répandues à une vitesse vertigineuse, laissant de nombreux spectateurs incapables de distinguer le vrai du faux.
Certaines vidéos se veulent humoristiques, comme celle où Fred Rogers, animateur de l'émission « Mr. Rogers' Neighborhood », rappe avec Tupac Shakur. Mais une grande partie du contenu créé est tout simplement excessive.
Parmi ces images, une vidéo recréant Whitney Houston en état d'ivresse grâce à un faux angle de caméra de police, Kobe Bryant volant dans un hélicoptère lors de l'accident qui lui a coûté la vie ainsi qu'à sa fille, et l'ancien président John F. Kennedy plaisantant sur l'assassinat d'un homme politique contemporain, ont toutes suscité la colère de la communauté.
Réglementation laxiste
La politique d'OpenAI stipule que l'outil ne peut simuler des personnes réelles qu'avec leur consentement. Cependant, lors de son récent lancement, l'entreprise a exempté les « personnages historiques » de cette règle, permettant ainsi aux utilisateurs de créer librement des vidéos de personnes décédées. Cette décision a suscité l'indignation de nombreuses familles de victimes.
Zelda Williams, la fille du regretté acteur Robin Williams, a partagé sur Instagram qu'elle recevait constamment des vidéos de son père réalisées par intelligence artificielle et a supplié les gens d'« arrêter ».
« C’est fou de voir l’héritage de vraies personnes réduit à des pitreries horribles contrôlées par TikTok », a déclaré Zelda.
 |
Les règles d'OpenAI concernant l'utilisation de Sora 2 comportent de nombreuses failles. Photo : Bloomberg . |
Selon les experts, ce phénomène marque un tournant dans l'évolution de l'intelligence artificielle, où la frontière entre créativité et atteinte à la réputation devient floue. Henry Ajder, chercheur spécialisé dans les deepfakes, a déclaré que la « résurrection synthétique » des morts soulève d'importantes questions quant au contrôle de l'image et de l'héritage personnels.
« Utiliser des images de célébrités pour créer du contenu générera assurément des vues. Mais avec les personnes décédées, cela soulève une question plus profonde : à qui appartiennent leurs souvenirs et leur identité ? », a déclaré Ajder.
Face à la polémique, OpenAI a annoncé qu'elle autoriserait les représentants de personnalités publiques récemment décédées à demander que leurs images soient bloquées dans les vidéos de Sora. « Nous estimons que les personnalités publiques et leurs familles doivent avoir le contrôle sur l'utilisation de leurs images protégées par le droit d'auteur », a déclaré un porte-parole d'OpenAI.
Plusieurs organisations du secteur du divertissement américain ont également fait part de leurs inquiétudes. Creative Artists Agency, l'agence qui représente de nombreuses stars hollywoodiennes, a déclaré que Sora 2 mettait gravement en péril les clients et la propriété intellectuelle. La Motion Picture Association of America (MPAA) a appelé OpenAI à prendre des mesures « immédiates et décisives » pour protéger les droits des créateurs.
Il n'y a pas que les artistes, des personnages historiques en ont également été victimes. Une vidéo créée par Sora montre Winston Churchill faisant la promotion de JetBlue ou faisant référence à des blagues salaces sur Internet.
Source : https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html
Comment (0)