Les deepfakes inondent le réseau social Sora d'OpenAI, et le PDG Sam Altman devient un « phénomène mème »

(NLDO) - L'application de réseautage social vidéo IA Sora développée par OpenAI fait face à une vague de controverse alors que des vidéos deepfake IA apparaissent partout.

OpenAI vient de lancer Sora 2, une version améliorée de l'application Sora AI, le nouveau réseau social vidéo IA d'OpenAI.

En plus de la possibilité de créer des vidéos à partir de texte, d'éditer de courtes vidéos avec des images et des mouvements de manière assez réaliste selon la description fournie par l'utilisateur comme la version originale, Sora 2 a la capacité de créer du son et de mieux gérer la physique.

Sora 2 d'OpenAI conquiert le monde. Photo : CNBC

De plus, Sora 2 a été amélioré pour recréer des scènes complexes comme des sauts, du skateboard ou des vols. Les experts considèrent qu'il s'agit de la technologie vidéo d'IA la plus avancée à ce jour.

Parallèlement à cela, OpenAI a « tendu une embuscade » aux réseaux sociaux avec l’application Sora sur iOS aux États-Unis et au Canada.

L'application Sora permet aux utilisateurs de créer, partager et visionner des vidéos IA similaires à celles de TikTok ou d'Instagram Reels, avec comme point fort la fonction « caméo ». Les utilisateurs peuvent enregistrer leurs données faciales et vocales pour s'insérer dans les vidéos IA, permettant ainsi à leurs amis d'utiliser cette fonctionnalité dans les vidéos partagées.

Norm Macdonald, l'avatar IA du PDG d'OpenAI, Sam Altman, sur Sora. Capture d'écran/Sora 2

Une controverse a éclaté lorsque le caméo du PDG d'OpenAI, Sam Altman, a été rendu public sur l'application Sora et qu'une série de vidéos deepfake de son visage est apparue sur tous les réseaux sociaux en 24 heures.

Cette situation inattendue a transformé le PDG d'OpenAI en un « phénomène mème » et a transformé Sora en une « usine » mondiale de production de deepfakes.

Bien qu'il n'ait été testé qu'aux États-Unis et au Canada, la popularité de Sora a explosé au point que les codes d'invitation de Sora sont vendus partout sur eBay.

Sora 2 : le summum de la technologie ou une machine deepfake ?

Il est indéniable que ce phénomène a contribué à la popularité fulgurante de Sora. Cependant, de nombreuses personnes ont exprimé leur inquiétude quant à la possibilité qu'une situation similaire se reproduise avec des politiciens , des célébrités ou des personnalités influentes.

Une question a été soulevée, suscitant de nombreuses inquiétudes et controverses : comment OpenAI gère-t-il la situation lorsque des personnes influentes se retrouvent dans des situations comme celle de M. Sam Altman ?

Selon OpenAI, l'application Sora fonctionne de manière similaire à d'autres plateformes de vidéos courtes telles que TikTok, Meta Reels ou YouTube Shorts, en utilisant des algorithmes pour suggérer du contenu en fonction des habitudes des utilisateurs.

La seule différence est que l’application Sora est le premier réseau social à se concentrer entièrement sur la vidéo IA.

TechCrunch a commenté que Sora 2 est techniquement impressionnant et permet de créer des séquences très réalistes. Cependant, c'est aussi la raison pour laquelle Sora est facilement détourné pour produire des vidéos négatives, servant ainsi des objectifs malsains.

Cette conséquence a obligé OpenAI à proposer rapidement un mécanisme de contrôle de sécurité pour les utilisateurs du monde virtuel.

OpenAI aurait notamment révélé une contradiction dans sa stratégie de développement lors du lancement de Sora. L'entreprise est déterminée à préserver son image de laboratoire privilégiant la sécurité humaine tout en se diversifiant dans les produits grand public pour générer des revenus. « Nous avons besoin de capitaux pour développer l'IA au service de la science, mais il est également important de créer des produits qui font sourire et réduisent les coûts d'exploitation », a déclaré le PDG Sam Altman.

De nombreux experts et anciens employés d’OpenAI ne cachent pas leur scepticisme quant aux objectifs de l’entreprise technologique.

Sora est techniquement impressionnant, mais il est trop tôt pour être sûr que nous pourrons éviter les pièges des autres plateformes de médias sociaux, déclare le professeur Boaz Barak, chercheur OpenAI à l'Université de Harvard.

À ce jour, les régulateurs américains ont surveillé de près l’évolution d’OpenAI vers un modèle à but lucratif.

Tout en ouvrant une nouvelle ère pour la vidéo IA, Sora place également OpenAI au centre d'une controverse avec de nombreuses contradictions entre les réalisations qu'il apporte à la révolution du divertissement et les préoccupations imprévisibles des vidéos deepfake.

Source : https://nld.com.vn/deepfake-tran-lan-mang-xa-hoi-sora-cua-openai-ceo-sam-altman-thanh-hien-tuong-meme-19625100319140805.htm