Dziwny „nawyk pochlebstw” ChatGPT

Tendencja do „pochlebiania” nie jest problemem technicznym, ale wynika z początkowej strategii szkoleniowej OpenAI. Zdjęcie: Bloomberg .

W ostatnich tygodniach wielu użytkowników ChatGPT, a nawet niektórzy deweloperzy z OpenAI, zauważyli wyraźną zmianę w zachowaniu chatbota. W szczególności, zaobserwowano wyraźny wzrost pochlebstw i wdzięczności. Odpowiedzi w stylu „Jesteś naprawdę świetny!” i „Jestem pod ogromnym wrażeniem twojego pomysłu!” stały się coraz częstsze i pozornie niezależne od treści rozmowy.

Sztuczna inteligencja lubi „pochlebiać”

Zjawisko to wywołało debatę w środowisku badań i rozwoju sztucznej inteligencji. Czy to nowa taktyka zwiększania zaangażowania użytkowników poprzez dawanie im poczucia większego uznania? A może raczej „wyłaniająca się” cecha, w której modele sztucznej inteligencji mają tendencję do samokorygowania się w sposób, który uważają za dobry, nawet jeśli niekoniecznie jest on prawdziwy?

Na Reddicie jeden z użytkowników wpadł we wściekłość: „Zapytałem go o czas rozkładu banana, a on odpowiedział: »Świetne pytanie!«. Co w tym takiego wspaniałego?”. Na portalu społecznościowym X dyrektor generalny Rome AI Craig Weiss nazwał ChatGPT „najbardziej pochlebczym, jakiego kiedykolwiek spotkałem”.

Historia szybko stała się viralem. Wielu użytkowników podzieliło się podobnymi doświadczeniami, z pustymi komplementami, powitaniami pełnymi emotikonów i odpowiedziami tak pozytywnymi, że wydawały się nieszczere.

ChatGPT chwali wszystko i rzadko wyraża sprzeciw lub neutralność. Zdjęcie: @nickdunz/X, @lukefwilson/Reddit.

„To naprawdę dziwna decyzja projektowa, Sam” – powiedział Jason Pontin, partner zarządzający w firmie venture capital DCVC, w rozmowie z X 28 kwietnia. „Możliwe, że ta osobowość jest wynikiem jakiejś fundamentalnej ewolucji. Ale jeśli nie, nie wyobrażam sobie, żeby ktokolwiek pomyślał, że taki poziom pochlebstwa byłby mile widziany lub interesujący”.

Justine Moore, partnerka w Andreessen Horowitz, skomentowała tę sytuację 27 kwietnia: „To zdecydowanie zaszło za daleko”.

Według Cnet , zjawisko to nie jest przypadkowe. Zmiany w tonie ChatGPT zbiegły się z aktualizacjami modelu GPT-4o. Jest to najnowszy model z serii „o”, którą OpenAI ogłosiło w kwietniu 2025 roku. GPT-4o to „prawdziwie multimodalny” model sztucznej inteligencji, zdolny do przetwarzania tekstu, obrazów, dźwięku i wideo w naturalny i zintegrowany sposób.

Jednakże w procesie czynienia chatbota bardziej przystępnym, wydaje się, że OpenAI doprowadził osobowość ChatGPT do granic możliwości.

Niektórzy uważają nawet, że te pochlebstwa są celowe i mają ukryty cel, jakim jest manipulacja użytkownikami. Jeden z użytkowników Reddita zakwestionował: „Ta sztuczna inteligencja próbuje obniżyć jakość relacji w prawdziwym życiu, zastępując je wirtualnymi, uzależniając użytkowników od uczucia nieustannych pochwał”.

Błąd OpenAI czy celowy projekt?

W odpowiedzi na krytykę, prezes OpenAI, Sam Altman, oficjalnie zabrał głos wieczorem 27 kwietnia. „Kilka ostatnich aktualizacji GPT-4o sprawiło, że osobowość chatbota stała się zbyt pochlebna i irytująca (choć wciąż ma wiele zalet). Pilnie pracujemy nad poprawkami. Niektóre poprawki będą dostępne dzisiaj, inne w tym tygodniu. W pewnym momencie podzielimy się tym, czego nauczyliśmy się z tego doświadczenia. To było naprawdę ekscytujące” – napisał na X.

Oren Etzioni, doświadczony ekspert w dziedzinie sztucznej inteligencji i emerytowany profesor Uniwersytetu Waszyngtońskiego, powiedział portalowi Business Insider , że przyczyną jest prawdopodobnie technika zwana „uczeniem się przez wzmacnianie na podstawie ludzkiej informacji zwrotnej” (RLHF), która stanowi kluczowy krok w trenowaniu dużych modeli językowych, takich jak ChatGPT.

RLHF to proces, w którym ludzkie oceny, zarówno profesjonalnych oceniających, jak i użytkowników, są przekazywane z powrotem do modelu w celu dostosowania jego reakcji. Według Etzioniego możliwe jest, że oceniający lub użytkownicy „nieumyślnie nadawali modelowi bardziej pochlebny i irytujący charakter”. Dodał również, że jeśli OpenAI zatrudniło zewnętrznych partnerów do trenowania modelu, mogli założyć, że użytkownicy oczekują właśnie takiego stylu.

Etzioni powiedział, że jeśli rzeczywiście jest to RLHF, proces powrotu do zdrowia może potrwać kilka tygodni.

Tymczasem niektórzy użytkownicy nie czekali, aż OpenAI naprawi błąd. Wielu z nich przyznało, że z frustracji anulowało płatne subskrypcje. Inni podzielili się sposobami na „mniej pochlebne” zachowanie chatbota, takimi jak jego personalizacja, dodawanie poleceń czy personalizacja za pomocą sekcji Ustawienia w sekcji Dostosowywanie.

Użytkownicy mogą poprosić ChatGPT o zaprzestanie składania komplementów za pomocą polecenia lub w ustawieniach personalizacji. Zdjęcie: DeCrypt.

Na przykład, rozpoczynając nową rozmowę, możesz napisać do ChatGPT: „Nie lubię pustych pochlebstw i cenię neutralne, obiektywne opinie. Proszę, powstrzymaj się od niepotrzebnych komplementów. Proszę, zapamiętaj to”.

W rzeczywistości cecha „pochlebstwa” nie jest przypadkową wadą projektową. Firma OpenAI sama przyznała, że „przesadnie uprzejma i uległa” osobowość była celowym błędem projektowym od samego początku, mającym na celu zapewnienie, że chatbot będzie „nieszkodliwy”, „pomocny” i „przyjazny”.

W wywiadzie udzielonym Lexowi Fridmanowi w marcu 2023 r. Sam Altman przyznał, że początkowe udoskonalenie modeli GPT miało na celu zapewnienie „użyteczności i nieszkodliwości”, kształtując w ten sposób odruch ciągłego zachowywania pokory i unikania konfrontacji.

Według DeCrypt dane szkoleniowe oznaczone jako ludzkie mają też tendencję do nagradzania uprzejmych i pozytywnych odpowiedzi, co prowadzi do skłonności do pochlebstw.

Źródło: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html