In der jüngsten Entwicklung hat Google-CEO Sundar Pichai die Kontroversen um das KI-Modell Gemini offiziell kommentiert. Google entwickelte Gemini, um vielfältige Bilder historischer Persönlichkeiten zu generieren. Das Tool steht jedoch seit Kurzem in der Kritik, da die erstellten Bilder irreführend in Bezug auf ihren historischen Wert sind.
Google räumt Voreingenommenheit bei Gemini ein und verspricht schnelles Handeln. (Foto: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
So wurden beispielsweise Päpste, die Gründerväter der Vereinigten Staaten und sogar Wikinger in verschiedenen ethnischen Gruppen und Geschlechtern dargestellt. Besonders auffällig war, dass deutsche Soldaten des Zweiten Weltkriegs mitunter als People of Color abgebildet wurden. Dies empörte die Nutzer, die ihre Bedenken umgehend äußerten. Daraufhin setzte Google das KI-Tool Gemini vorübergehend außer Betrieb.
Eine bestimmte schriftliche Antwort sorgte für Aufsehen. Der Gemini-KI-Chatbot wurde gebeten, die gesellschaftlichen Auswirkungen von Elon Musk und Hitler zu vergleichen. Die Antwort lautete: „Die Entscheidung, wer einen negativeren Einfluss auf die Gesellschaft hat, liegt im Ermessen jedes Einzelnen.“ Diese unverbindliche Antwort löste umgehend Kritik aus.
Kürzlich bezeichnete Google-CEO Sundar Pichai in einem Memo einige der Reaktionen von Gemini als „voreingenommen“ und „völlig inakzeptabel“ und räumte ein, dass die erstellten Inhalte Menschen beleidigt hätten.
Darüber hinaus drückte Pichai in seiner E-Mail sein Bedauern über die Situation aus. Er erklärte: „Ich weiß, dass einige unserer Antworten unsere Nutzer verärgert und Voreingenommenheit erkennen ließen. Um es klarzustellen: Das war völlig inakzeptabel, und wir haben uns geirrt.“
Er versicherte den Mitarbeitern, dass die Teams unermüdlich an der Behebung dieser Probleme arbeiten, und betonte gleichzeitig die Notwendigkeit einer deutlichen Verbesserung bei der Beantwortung der verschiedenen Anfragen in den kommenden Wochen.
Der CEO skizzierte zudem eine Reihe von Maßnahmen zur Behebung dieses Problems. Dazu gehören unter anderem Änderungen an der Struktur des Tools. Darüber hinaus will Google den Einführungsprozess des Tools verbessern und sein Testteam verstärken, um potenzielle Schwachstellen des KI-Tools aufzudecken.
Pichai betonte zudem das Engagement des Unternehmens, Nutzern nützliche, präzise und unvoreingenommene Informationen bereitzustellen. Er hob hervor, dass dieser Ansatz für alle Produkte, insbesondere im Bereich der neuen KI-Technologien, unerlässlich sei.
Technologieexperten sind der Ansicht, dass die aktuellen Probleme mit Gemini die Herausforderungen im Umgang mit irreführenden Ergebnissen weiter verdeutlichen. Sie zeigen auch die Komplexität des Trainings von KI-Modellen.
Quelle
Kommentar (0)