Les utilisateurs des réseaux sociaux se sont plaints du fait que le générateur d'images IA a produit des images de personnages historiques, tels que les pères fondateurs de l'Amérique, en tant que personnes de couleur.
Dans une publication sur le réseau social X, Google a déclaré que sa fonctionnalité d'IA était « utilisée dans le monde entier », mais avait créé des produits « inappropriés » et que l'entreprise « améliorait immédiatement ces descriptions ».
Pour l'instant, le géant de la recherche va suspendre la fonction de création d'images humaines de Gemini et rééditer une version « améliorée » dès que possible.
Google a lancé le générateur d'images IA en février via sa plateforme Gemini AI, anciennement Bard, à un moment où l'entreprise tente de rattraper OpenAI - la startup propriétaire de ChatGPT, qui vient de lancer la semaine dernière un nouveau modèle génératif capable de générer des vidéos à partir des invites de texte des utilisateurs appelé Sora.
Sora est le nouveau modèle d'IA générative d'OpenAI, dont le fonctionnement est similaire à celui du générateur d'images Dall-E. Il suffit aux utilisateurs de saisir du contenu vidéo et Sora renvoie un clip vidéo de haute qualité. Il peut également générer des vidéos à partir d'images fixes, étirer des vidéos ou remplir des cadres vides.
Bien que saluée par les passionnés d'IA, cette nouvelle technologie suscite de vives inquiétudes quant à la désinformation à l'approche d'élections politiques mondiales majeures. Selon les données de Clarity, une entreprise spécialisée dans l'apprentissage automatique, le nombre de deepfakes générés par l'IA a augmenté de 900 % d'une année sur l'autre.
À ce jour, des géants de la technologie comme Meta et Google proposent des outils d'IA pour créer des vidéos, ainsi que des produits de startups comme Stability AI. Amazon a également lancé Create with Alexa, un modèle spécialisé dans la création de courts contenus animés pour enfants, basés sur des instructions.
(Selon CNBC)
Source
Comment (0)