Gemini, le nouveau nom du chatbot Bard, génère des images à partir des descriptions des utilisateurs, à la manière de ChatGPT d'OpenAI. Comme d'autres modèles, Gemini est entraîné à ne pas répondre aux commandes dangereuses ou haineuses et à intégrer la diversité dans ses résultats.
Cependant, certains utilisateurs ont critiqué cette diversité, la jugeant excessive et créant des images inexactes de personnes et de personnages historiques. Par exemple, le premier président américain, George Washington, a été représenté par Gemini comme une personne de couleur.
D’autres exemples incluent une image d’IA d’une femme d’Asie du Sud-Est habillée en pape, alors qu’en fait, les 266 papes de l’histoire ont tous été des hommes blancs.
 |
Google suspend la fonctionnalité de génération d'images Gemini AI |
Gemini a même créé des images « diverses » de soldats allemands de l'époque nazie, notamment une femme asiatique et un homme noir vêtus d'un uniforme militaire de 1943.
Étant donné que Google n'a pas publié les paramètres qui régissent le comportement du chatbot Gemini, il est difficile d'obtenir une explication claire sur la raison pour laquelle le logiciel invente autant de versions diverses de personnages et d'événements historiques.
Le problème de Gemini survient quelques jours après qu'OpenAI, la société qui exploite le populaire ChatGPT, a introduit un nouvel outil d'IA appelé Sora qui peut générer des vidéos en fonction des descriptions textuelles des utilisateurs.
Google a déjà reconnu que le comportement erratique du chatbot devait être corrigé. Gemini a peut-être privilégié la diversité forcée dans la création d'images, ce qui a conduit à des représentations historiquement inexactes.
En février, Google a lancé la génération d'images grâce à son modèle d'IA Gemini (anciennement Bard), afin de concurrencer OpenAI et Copilot de Microsoft. Comme ses concurrents, l'outil génère une collection d'images à partir de descriptions textuelles rédigées par les utilisateurs.
Source
Comment (0)