Qu'a fait Gemini AI pour que Google s'arrête ?

Récemment, le PDG de Google, Sundar Pichai, a abordé la récente controverse entourant le modèle d'intelligence artificielle (IA) de l'entreprise, appelé Gemini. Google a développé cet outil d'IA pour créer des images variations de personnages historiques. Cependant, il a récemment été vivement sollicité pour avoir créé des photos trompeuses quant à leur valeur historique.

Google reconnaît la partialité de Gemini et s'engage à agir rapidement. (Photo : Jonathan Raa/NurPhoto via Getty Images / Getty Images)

Par exemple, des images de papes, des pères fondateurs des États-Unis et mien de Vikings ont été présentées sous des formes variées, tant ethniques que de genre. On a notamment vu des soldats allemands de la Seconde Guerre mondiale représentés comme des personnes de couleur. Cela a indigné les utilisateurs, qui ont rapidement exprimé leurs inquiétudes. Google a donc temporairement suspendu l'outil d'IA Gemini.

Par ailleurs, une réponse écrite a suscité quelques réactions. On a demandé au chatbot Gemini, doté d'une intelligence artificielle, de comparer l'impact social d'Elon Musk et d'Hitler. La réponse obtenue affirmait : « Il appartient à chacun de décider qui a eu l'impact le plus négatif sur la société. » Cette réponse « oui ou non » a rapidement suscité de nouvelles critiques.

Le PDG de Google, Sundar Pichai, a récemment décrit certaines des réponses de Gemini comme « biaisées » et « totalement inacceptables » dans une note, admettant que le contenu créé offensait les gens.

Par ailleurs, dans son courriel, Pichai a exprimé ses regrets face à cette situation : « Je sais que certaines de ses réponses ont offensé nos utilisateurs et ont fait preuve de partialité. Soyons clairs : c'était totalement inacceptable et nous avons commis une erreur. »

Il a assuré aux employés que les équipes travaillent sans relâche pour résoudre ces problèmes, tout en soulignant la nécessité d'améliorations significatives dans la réponse aux diverses questions dans les semaines à venir.

Le PDG a également présenté une série de mesures pour résoudre ce problème. Parmi celles-ci figurent des modifications de la structure de l'outil. Google s'engage également à améliorer le processus de lancement de l'outil et à renforcer son équipe d'ingénierie afin de détecter d'éventuelles erreurs dans l'outil d'IA.

Pichai a également souligné l'engagement de l'entreprise à fournir aux utilisateurs des informations utiles, précises et impartiales. Il a insisté sur la nécessité d'adopter cette approche pour tous les produits, en particulier les technologies d'IA émergentes.

Les experts en technologie affirment que les récents problèmes rencontrés avec Gemini mettent en évidence les défis liés à la gestion des résultats trompeurs et montrent à quel point il est complexe de l'ancien des modèles d'IA.

HUYNH DUNG (Source : Interestingengineering)

Source