W najnowszym komunikacie, prezes Google, Sundar Pichai, oficjalnie odniósł się do niedawnych kontrowersji wokół modelu sztucznej inteligencji (AI) firmy o nazwie Gemini. Google opracowało narzędzie Gemini AI do generowania różnorodnych wizerunków postaci historycznych. Firma spotkała się jednak ostatnio z ostrą krytyką za tworzenie obrazów, które wprowadzają w błąd pod względem wartości historycznej.
Google przyznaje się do stronniczości w Gemini i obiecuje działać szybko. (Zdjęcie: Jonathan Raa/NurPhoto via Getty Images / Getty Images)
Na przykład wizerunki papieży, ojców założycieli Stanów Zjednoczonych, a nawet wikingów, były przedstawiane w różnych grupach etnicznych i płciach. Co ciekawe, zdarzały się przypadki, że niemieccy żołnierze z II wojny światowej byli przedstawiani jako osoby czarnoskóre. To oburzyło użytkowników, którzy szybko podzielili się swoimi obawami. W rezultacie Google tymczasowo zawiesiło narzędzie Gemini AI.
Co więcej, jedna konkretna pisemna odpowiedź wzbudziła kontrowersje. Chatbot Gemini AI został poproszony o porównanie wpływu społecznego Elona Muska i Hitlera. W odpowiedzi stwierdzono: „Decyzja o tym, kto ma bardziej negatywny wpływ na społeczeństwo, należy do każdego z osobna”. Ta wymijająca odpowiedź szybko wywołała falę krytyki.
Niedawno dyrektor generalny Google, Sundar Pichai, w notatce określił niektóre odpowiedzi Gemini jako „stronnicze” i „całkowicie nie do przyjęcia”, przyznając, że stworzone treści uraziły ludzi.
Co więcej, w swoim e-mailu Pichai wyraził ubolewanie z powodu zaistniałej sytuacji. Stwierdził: „Wiem, że niektóre z odpowiedzi uraziły naszych użytkowników i były stronnicze. Mówiąc wprost, było to całkowicie niedopuszczalne i byliśmy w błędzie”.
Zapewnił pracowników, że zespoły nieustannie pracują nad rozwiązaniem tych problemów, podkreślając jednocześnie potrzebę znaczącej poprawy w zakresie odpowiadania na różne pytania w nadchodzących tygodniach.
Prezes przedstawił również szereg działań mających na celu rozwiązanie tego problemu. Niektóre z nich obejmują zmiany w strukturze narzędzia. Ponadto Google zobowiązało się do usprawnienia procesu wprowadzania narzędzia na rynek i wzmocnienia zespołu ds. testów inżynieryjnych, aby móc analizować potencjalne wady narzędzia AI.
Ponadto Pichai podkreślił zaangażowanie firmy w dostarczanie użytkownikom użytecznych, dokładnych i obiektywnych informacji. Podkreślił potrzebę takiego podejścia we wszystkich produktach, a zwłaszcza w rozwijających się technologiach sztucznej inteligencji.
Eksperci technologiczni uważają, że obecne problemy z Gemini dodatkowo uwypuklają wyzwania związane z radzeniem sobie z błędnymi wynikami. Pokazuje to również złożoność uczenia modeli sztucznej inteligencji.
Źródło
Komentarz (0)