L'IA crée une vidéo offensante lorsqu'elle « ranime

Le nouvel outil de création vidéo d'OpenAI plonge les familles de célébrités dans une crise alors que les images de leurs proches décédés sont « ressuscitées » par l'IA dans des vidéos offensantes, déformées et parfois humiliantes.

Les vidéos générées par l’IA de personnes décédées, de Malcolm X à Whitney Houston en passant par Kobe Bryant, ont fait sensation, soulevant des questions sur les limites éthiques et le contrôle de l’image à l’ère de l’IA.

Contenu offensant

Ilyasah Shabazz, la fille du militant des droits civiques Malcolm X, affirme ne pas vouloir voir d'images de son père générées par l'IA. Ces vidéos ont été réalisées avec Sora 2, le nouvel outil de conversion de texte en vidéo d'OpenAI, pour créer des scènes de Malcolm X racontant des blagues grossières et discutant avec le révérend Martin Luther King.

« C'est irrespectueux et déchirant de voir l'image de mon père exploitée de manière aussi insensée. Je ne comprends pas pourquoi les développeurs de cette technologie n'agissent pas avec la même conscience et la même sollicitude qu'ils le feraient pour leur propre famille », a déclaré Shabazz au Washington Post .

Sora 2 crée des vidéos à partir d'images de personnes décédées sans autorisation. Photo : Bloomberg .

Sora 2 est rapidement devenu un phénomène mondial grâce à sa capacité à créer des vidéos incroyablement réalistes. Quelques jours seulement après son lancement, l'application s'est hissée au sommet des téléchargements. Cependant, sa diffusion rapide a également entraîné l'apparition de fausses vidéos de célébrités sur les réseaux sociaux.

Les images « ressuscitées » de Michael Jackson, Elvis Presley et Amy Winehouse se propagent à une vitesse vertigineuse, laissant de nombreux téléspectateurs incapables de distinguer le vrai du faux.

Certaines vidéos se veulent drôles, comme celle où Fred Rogers, présentateur de « Mr. Rogers' Neighborhood », rappe avec Tupac Shakur. Mais une grande partie du contenu créé est tout simplement excessif.

Parmi elles, une vidéo recréant Whitney Houston en état d'ivresse à travers un faux angle pris par une caméra de police, Kobe Bryant volant dans un hélicoptère lors de l'accident qui l'a tué, lui et sa fille, et l'ancien président John F. Kennedy plaisantant sur l'assassinat d'un homme politique contemporain, ont tous mis la communauté en colère.

Réglementation souple

La politique d'OpenAI stipule que l'outil ne peut simuler de vraies personnes qu'avec leur consentement. Cependant, lors de son récent lancement, l'entreprise a exempté les « personnages historiques » de cette règle, permettant ainsi aux utilisateurs de créer librement des vidéos de personnes décédées. Cette décision a suscité la colère de nombreuses familles de victimes.

Zelda Williams, fille du regretté acteur Robin Williams, a partagé sur Instagram qu'elle recevait constamment des vidéos IA de son père et suppliait les gens de « s'il vous plaît arrêter ».

« C'est fou de voir l'héritage de vraies personnes réduit à d'horribles pitreries où TikTok les contrôle », a déclaré Zelda.

Les règles d'OpenAI concernant l'utilisation de Sora 2 sont pleines de failles. Photo : Bloomberg .

Les experts affirment que ce phénomène marque un tournant dans l'IA, où la frontière entre créativité et infraction s'estompe. Henry Ajder, chercheur en deepfake, a déclaré que la « résurrection synthétique » des morts soulève de grandes questions quant au contrôle de l'image personnelle et de l'héritage.

« Utiliser des images de célébrités pour créer du contenu attirera sans aucun doute des vues. Mais avec les défunts, cela soulève une question plus profonde : à qui appartiennent leurs souvenirs et leur identité », a déclaré Ajder.

En réponse au tollé, OpenAI a annoncé qu'elle autoriserait les représentants de personnalités publiques récemment décédées à demander que leurs images soient bloquées dans les vidéos de Sora. « Nous pensons que les personnalités publiques et leurs familles devraient avoir le contrôle sur l'utilisation de leurs images protégées par le droit d'auteur », a déclaré un porte-parole d'OpenAI.

Plusieurs organisations du secteur américain du divertissement ont également exprimé leurs inquiétudes. Creative Artists Agency, la société de gestion de nombreuses stars hollywoodiennes, a déclaré que Sora 2 mettait gravement en danger les clients et la propriété intellectuelle. La Motion Picture Association of America (MPAA) a appelé OpenAI à prendre des mesures « immédiates et décisives » pour protéger les droits des créateurs.

Les artistes ne sont pas les seuls à en être victimes : des personnalités historiques ont également été victimes. Une vidéo créée par Sora montre Winston Churchill faisant la promotion de JetBlue ou faisant référence à des blagues osées sur Internet.

Source : https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html