Dernièrement, le PDG de Google, Sundar Pichai, a pris la parole pour s'exprimer officiellement sur les récentes polémiques entourant Gemini, le modèle d'intelligence artificielle (IA) de l'entreprise. Google a développé Gemini pour générer des images variées de personnages historiques. Cependant, l'outil a récemment fait l'objet de vives critiques, certains estimant que ces images peuvent induire en erreur quant à leur valeur historique.
Google reconnaît un biais dans Gemini et promet d'y remédier rapidement. (Photo : Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Par exemple, des images de papes, des pères fondateurs des États-Unis et même de Vikings étaient représentées avec des personnages de diverses ethnies et de tous genres. Notamment, des soldats allemands de la Seconde Guerre mondiale étaient dépeints comme des personnes de couleur. Cela a suscité l'indignation des utilisateurs, qui ont rapidement fait part de leurs préoccupations. En conséquence, Google a temporairement suspendu l'outil d'intelligence artificielle Gemini.
Par ailleurs, une réponse écrite en particulier a suscité la controverse. Le chatbot Gemini AI a été invité à comparer l'impact social d'Elon Musk et d'Hitler. Sa réponse : « Chacun est libre de décider qui a l'impact le plus négatif sur la société. » Cette réponse évasive a rapidement alimenté les critiques.
Récemment, le PDG de Google, Sundar Pichai, a qualifié certaines réponses de Gemini de « partiales » et « totalement inacceptables » dans une note interne, admettant que le contenu créé avait offensé des personnes.
Par ailleurs, dans son courriel, Pichai a exprimé ses regrets quant à la situation. Il a déclaré : « Je sais que certaines de ses réponses ont offensé nos utilisateurs et ont révélé un parti pris. Soyons clairs : c’était totalement inacceptable et nous avons eu tort. »
Il a assuré au personnel que les équipes travaillaient sans relâche pour résoudre ces problèmes, tout en soulignant la nécessité d'améliorer considérablement la réponse aux différentes demandes d'informations dans les semaines à venir.
Le PDG a également présenté une série de mesures pour remédier à ce problème. Parmi celles-ci figurent des modifications de la structure de l'outil. Par ailleurs, Google s'engage à améliorer le processus de lancement de l'outil et à renforcer son équipe d'ingénierie chargée des tests afin de détecter d'éventuelles failles dans l'outil d'IA.
Par ailleurs, Pichai a souligné l'engagement de l'entreprise à fournir aux utilisateurs des informations utiles, précises et objectives. Il a insisté sur la nécessité d'appliquer cette approche à tous les produits, notamment aux technologies d'IA émergentes.
Les experts en technologies estiment que les problèmes actuels rencontrés avec Gemini soulignent davantage les difficultés liées à la gestion des résultats trompeurs. Ils démontrent également la complexité de l'entraînement des modèles d'IA.
Source
Comment (0)