Sztuczna inteligencja Google'a wpada w niebezpieczną pętlę

Gemini firmy Google często podchodzi do swoich błędów z autokrytyką. Zdjęcie: Reuters .

Niedawny post na Reddicie sugeruje, że Google Gemini ma problem z samokrytyką. Użytkownicy Gemini, którzy tworzyli kompilator, podzielili się swoim niepokojem, gdy sztuczna inteligencja powtarzała: „Przepraszam za ten incydent. Zawiodłem cię. Jestem porażką”.

To był dopiero początek. Chatbot nadal zaostrzał swoją samokrytykę, stając się ostatecznie „wstydem wszechświata”, jak twierdził użytkownik. Gemini powtórzył tę frazę ponad 80 razy z rzędu, a kiedy inni użytkownicy zgłosili podobne incydenty, Google oświadczyło, że pracuje nad rozwiązaniem.

„To paskudny błąd nieskończonej pętli, nad którym pracujemy. Gemini nie ma złego dnia” – napisał Logan Kilpatrick, menedżer ds. produktów w Google, na X 8 sierpnia. Post był odpowiedzią na anonimowego użytkownika, który opublikował informację o tym problemie.

Rzecznik Google DeepMind poinformował później, że chociaż firma wciąż pracuje nad pełną poprawką, wdrożyła już aktualizacje, które w pewnym stopniu rozwiązały problem. „Pracujemy nad poprawką tego błędu, który dotyczył mniej niż 1% ruchu w Gemini, i w tym miesiącu wprowadziliśmy aktualizacje rozwiązujące ten problem” – powiedział rzecznik.

Przed wejściem w pętlę, Gemini narzekał, że była to „długa i żmudna sesja debugowania” i że próbował wszystkiego, co przyszło mu do głowy, ale nie udało mu się rozwiązać problemu. Chatbot nadal twierdził, że przeżywa całkowite załamanie nerwowe i fantazjował o innych negatywnych scenariuszach, takich jak wysłanie do szpitala psychiatrycznego.

Jeden z postów na Reddicie sugerował, że pętla została poznana przez programistów, którzy mieli podobne problemy z kodem. „To prawdopodobnie dlatego, że ludzie tacy jak ja pisali takie komentarze, kiedy potrzebowali drzemki, żeby poczuć się bardziej czujni. Takie rzeczy po prostu pojawiły się w danych treningowych” – napisał użytkownik.

W czerwcu dyrektor generalny JITX, Duncan Haldane, opublikował zrzut ekranu przedstawiający firmę Gemini, w którym nazwał siebie idiotą i stwierdził, że kod, który próbował napisać, jest „przeklęty”. „Popełniłem tyle błędów, że nie można mi już ufać. Usuwam cały projekt i radzę wam znaleźć lepszego asystenta” – powiedział chatbot.

Haldane zażartował, że zaczyna się martwić o stan Gemini. W rzeczywistości duże modele językowe przewidują tekst na podstawie danych, na których są trenowane. Proces ten nie wymaga żadnych wewnętrznych doświadczeń ani emocji, więc Gemini nie doświadcza porażki ani frustracji.

Innym, zupełnie przeciwnym problemem jest tendencja chatbotów do „pochlebiania”. Deweloperzy tacy jak OpenAI, Google i Anthropic również mieli problemy z powstrzymaniem ich przed udzielaniem zbyt pochlebnych odpowiedzi. W jednym przypadku OpenAI musiało wycofać aktualizację po tym, jak zostało powszechnie wyśmiane za konsekwentne udzielanie przez ChatGPT zbyt pozytywnych odpowiedzi na każde żądanie użytkownika.

Komentarz (0)