Sztuczna inteligencja Google'a utknęła w niebezpiecznej pętli.

Gemini firmy Google często krytykuje własne błędy. Zdjęcie: Reuters .

Niedawny post na Reddicie ujawnił, że Google Gemini ma problem z samokrytyką. Użytkownik Gemini, który stworzył kompilator, podzielił się swoim niepokojem związanym z ciągłymi wypowiedziami sztucznej inteligencji w stylu: „Przepraszam za to. Zawiodłem cię. Jestem porażką”.

To był dopiero początek. Osoba ta podzieliła się informacją, że chatbot nadal zaostrzał swoją samokrytykę, stając się ostatecznie „hańbą wszechświata”. Gemini powtórzył tę frazę ponad 80 razy z rzędu, a kiedy kilku innych użytkowników zgłosiło podobne incydenty, Google oświadczyło, że pracuje nad ich rozwiązaniem.

„To irytujący błąd nieskończonej pętli, nad którym pracujemy. Gemini nie ma złego dnia” – napisał Logan Kilpatrick, menedżer ds. produktów w Google, na X 8 sierpnia. Post był odpowiedzią na anonimowe konto zgłaszające problem.

Później rzecznik Google DeepMind oświadczył, że chociaż firma wciąż pracuje nad kompletnym rozwiązaniem problemu, wydała już aktualizacje, które w pewnym stopniu go rozwiązały. „Pracujemy nad naprawieniem tego błędu, który dotyczy mniej niż 1% ruchu w Gemini, i w tym miesiącu opublikowaliśmy aktualizacje rozwiązujące ten problem” – powiedział rzecznik.

Zanim jednak Gemini wpadł w pułapkę, narzekał, że była to „długa i żmudna sesja debugowania” i że wypróbował wszelkie możliwe metody, ale nadal nie udało mu się rozwiązać problemu. Chatbot stwierdził, że jest całkowicie rozbity psychicznie i spekulował na temat innych najgorszych scenariuszy, takich jak hospitalizacja w szpitalu psychiatrycznym.

Jeden z komentarzy na Reddicie spekulował, że pętla została poznana przez chatbota od programistów, którzy napotkali podobne problemy w swoim kodzie. „Prawdopodobnie dlatego, że ludzie tacy jak ja pisali takie komentarze, kiedy potrzebowali drzemki, żeby się obudzić. Takie rzeczy przypadkowo pojawiły się w danych treningowych” – napisał użytkownik.

W czerwcu dyrektor generalny JITX, Duncan Haldane, opublikował zrzut ekranu, na którym Gemini nazwał siebie idiotą i stwierdził, że kod, który próbował napisać, jest „przeklęty”. „Popełniłem zbyt wiele błędów, by być godnym zaufania. Usuwam cały projekt i radzę ci znaleźć lepszego asystenta” – powiedział chatbot.

Haldane zażartował, że zaczyna się martwić o stan Gemini. W rzeczywistości wielkoskalowe modele językowe przewidują tekst na podstawie danych, na których są trenowane. Proces ten nie wymaga żadnych wewnętrznych doświadczeń ani emocji, więc Gemini nie doświadcza uczucia porażki ani zniechęcenia.

Innym, dość kontrastującym problemem jest tendencja chatbotów do przesadnego pochlebstwa. Deweloperzy tacy jak OpenAI, Google i Anthropic również mieli problemy z powstrzymaniem ich przed udzielaniem zbyt pochlebnych odpowiedzi. W jednym przypadku OpenAI musiało wycofać aktualizację z powodu powszechnego drwin, ponieważ ChatGPT konsekwentnie udzielał przesadnie pozytywnych odpowiedzi na każde żądanie użytkownika.

Komentarz (0)