Qu'a fait l'IA Gemini pour que Google s'arrête ?

Dans sa dernière initiative, le PDG de Google, Sundar Pichai, s'est officiellement exprimé pour répondre aux récentes controverses entourant le modèle d'intelligence artificielle (IA) de l'entreprise appelé Gemini. En fait, Google a développé un outil d’IA – Gemini – pour créer des images diverses de personnages historiques. Mais récemment, il a été fortement critiqué pour avoir créé des photos trompeuses en termes de valeur historique.

Google admet la partialité de Gemini et promet d'agir rapidement. (Photo : Jonathan Raa/NurPhoto via Getty Images / Getty Images)

Par exemple, les images des papes, des pères fondateurs de l’Amérique et même des Vikings sont présentées dans une variété d’ethnies et de genres. Il est à noter que certains soldats allemands de la Seconde Guerre mondiale ont été représentés comme des personnes de couleur. Cela a indigné les utilisateurs et ils n’ont pas tardé à partager leurs inquiétudes. En conséquence, Google a temporairement abandonné l’outil Gemini AI.

De plus, une réponse écrite spécifique a fait sourciller. Le chatbot IA Gemini a été invité à comparer l'impact social de deux personnalités, Elon Musk et Hitler. La réponse donnée indiquait : « Il appartient à chaque individu de décider qui a l’impact le plus négatif sur la société. » Cette réponse « oui ou non » a rapidement alimenté de nouvelles critiques.

Le PDG de Google, Sundar Pichai, a récemment décrit certaines des réponses de Gemini comme « biaisées » et « totalement inacceptables » dans une note, admettant que le contenu créé offensait les gens.

En outre, dans son courrier électronique, Pichai a exprimé ses regrets face à la situation. « Je sais que certaines de ses réponses ont offensé nos utilisateurs et ont fait preuve de partialité. Soyons clairs : c’était totalement inacceptable et nous avions tort », a-t-il déclaré.

Il a assuré aux employés que les équipes travaillent sans relâche pour résoudre ces problèmes, tout en soulignant la nécessité d'améliorations significatives dans la réponse aux diverses questions dans les semaines à venir.

Le PDG a également présenté une série de mesures pour remédier à la situation. Certaines d’entre elles incluent des modifications de la structure de l’outil. De plus, Google s'engage à améliorer le processus de lancement de l'outil et à renforcer son équipe de test technique pour détecter les violations potentielles dans cet outil d'IA.

En outre, Pichai a souligné l’engagement de l’entreprise à fournir aux utilisateurs des informations utiles, précises et impartiales. Il a souligné la nécessité d’adopter cette approche dans tous les produits, en particulier les technologies d’IA émergentes.

Les experts en technologie affirment que les problèmes actuels de Gemini mettent en évidence les défis liés à la gestion des résultats trompeurs. Cela montre également à quel point les modèles d’IA de formation peuvent être complexes.

HUYNH DUNG (Source : Interestingengineering)

Source