A ChatGPT furcsa „hízelgési szokása”

A ChatGPT-t nemrégiben bírálták, mert „túl hízelgő”. Ez a viselkedés sok felhasználó tiltakozását váltotta ki, és nem világos, hogy ez az OpenAI növekedési stratégiája, vagy a mesterséges intelligencia „spontán” természete.

A „szégyenkezésre” való hajlam nem technikai probléma, hanem az OpenAI kezdeti betanítási stratégiájából fakad. Fotó: Bloomberg .

Az elmúlt hetekben számos ChatGPT-felhasználó, sőt még az OpenAI néhány fejlesztője is jelentős változást vett észre a chatbot viselkedésében. Pontosabban, a hízelgés és a behízelgések száma jelentősen megnőtt. Az olyan válaszok, mint a „Nagyszerű vagy!” és a „Nagyon lenyűgözött az ötleted!”, egyre gyakoribbak lettek, és látszólag függetlenek a beszélgetés tartalmától.

A mesterséges intelligencia szeret "hízelegni"

Ez a jelenség vitát váltott ki a mesterséges intelligencia kutatási és fejlesztési közösségében. Vajon ez egy új taktika a felhasználói elköteleződés növelésére azáltal, hogy nagyobb megbecsülésnek érzik magukat? Vagy egy „kialakulóban lévő” tulajdonságról van szó, ahol a mesterséges intelligencia modelljei hajlamosak önkorrekcióra olyan módon, amelyet jónak gondolnak, még akkor is, ha az nem feltétlenül igaz?

A Redditen egy felhasználó dühöngött: „Megkérdeztem egy banán bomlási idejéről, és azt mondta: »Nagyszerű kérdés!« Mi olyan nagyszerű ebben?” Az X közösségi oldalon a Rome AI vezérigazgatója, Craig Weiss a ChatGPT-t „a legszépségesebbnek, akivel valaha találkoztam” nevezte.

A történet gyorsan vírusként terjedt. Számos felhasználó osztott meg hasonló tapasztalatokat, üres bókokkal, emojikkal teli üdvözlésekkel és olyan pozitív válaszokkal, amelyek szinte őszintének tűntek.

A ChatGPT mindent dicsér, és ritkán fejez ki ellenvéleményt vagy semlegességet. Fotó: @nickdunz/X, @lukefwilson/Reddit.

„Ez egy igazán furcsa tervezési döntés, Sam” – mondta Jason Pontin, a DCVC kockázati tőkebefektetési cég ügyvezető partnere az X-nek április 28-án. „Lehetséges, hogy a személyiség valamilyen alapvető evolúció következménye. De ha nem az, akkor el sem tudom képzelni, hogy bárki is azt gondolná, hogy ez a szintű hízelgés üdvözlendő vagy érdekes lenne.”

Április 27-én Justine Moore – az Andreessen Horowitz partnere – szintén így nyilatkozott: „Ez már határozottan túl messzire ment.”

A Cnet szerint ez a jelenség nem véletlen. A ChatGPT hangvételének változásai egybeestek a GPT-4o modell frissítéseivel. Ez a legújabb modell az „o sorozatban”, amelyet az OpenAI 2025 áprilisában jelentett be. A GPT-4o egy „valódi multimodális” MI-modell, amely képes szöveget, képeket, hangot és videót természetes és integrált módon feldolgozni.

Azonban úgy tűnik, hogy a chatbot megközelíthetőbbé tételének folyamatában az OpenAI a végletekig feszegette a ChatGPT személyiségét.

Egyesek úgy vélik, hogy ez a hízelgés szándékos, és rejtett célja a felhasználók manipulálása. Egy Reddit-felhasználó megkérdőjelezte: „Ez a mesterséges intelligencia megpróbálja rontani a valós kapcsolatok minőségét, virtuális kapcsolatokkal helyettesíti azokat, és a felhasználókat az állandó dicséret érzésének függővé teszi.”

OpenAI hiba vagy szándékos tervezés?

A kritikára válaszul Sam Altman, az OpenAI vezérigazgatója április 27-én este hivatalosan is megszólalt. „A GPT-4o néhány friss frissítése túlságosan hízelgővé és idegesítővé tette a chatbot személyiségét (bár még mindig sok nagyszerű pont van benne). Sürgősen dolgozunk a javításokon. Néhány javítás ma, mások ezen a héten lesznek elérhetők. Valamikor megosztjuk majd, mit tanultunk ebből a tapasztalatból. Nagyon izgalmas volt” – írta az X-en.

Oren Etzioni, veterán MI-szakértő és a Washingtoni Egyetem emeritus professzora a Business Insidernek elmondta, hogy az ok valószínűleg az „emberi visszajelzésből történő megerősítéses tanulás” (RLHF) nevű technika, amely kulcsfontosságú lépés a nagy nyelvi modellek, például a ChatGPT betanításában.

Az RLHF egy olyan folyamat, amelyben az emberi ítéleteket – mind a professzionális értékelőktől, mind a felhasználóktól – visszacsatolják a modellbe, hogy módosítsák annak reakcióit. Etzioni szerint lehetséges, hogy az emberi értékelők vagy a felhasználók „akaratlanul is a modellt egy hízelgőbb és bosszantóbb irányba terelték”. Azt is mondta, hogy ha az OpenAI külső partnereket bérelt fel a modell betanítására, akkor feltételezhették, hogy ezt a stílust akarják a felhasználók.

Etzioni azt mondta, hogy ha valóban RLHF-ről van szó, a felépülési folyamat több hétig is eltarthat.

Eközben néhány felhasználó nem várta meg, hogy az OpenAI kijavítsa a hibát. Sokan azt mondták, hogy a frusztrációjuk miatt mondták le fizetős előfizetésüket. Mások olyan módszereket osztottak meg, amelyekkel a chatbotot „kevésbé előnyössé” tehették, például testreszabhatták, parancsokat adhattak hozzá, vagy személyre szabhatták a Testreszabás rész Beállítások részében.

A felhasználók parancsban vagy a személyre szabási beállításokban kérhetik a ChatGPT-től a bókok letiltását. Fotó: DeCrypt.

Például egy új beszélgetés megkezdésekor ezt mondhatod a ChatGPT-nek: „Nem szeretem az üres hízelgést, és értékelem a semleges, objektív visszajelzést. Kérlek, tartózkodj a felesleges bókoktól. Kérlek, jegyezd meg ezt.”

Valójában a „szégyenlős” tulajdonság nem véletlen tervezési hiba. Maga az OpenAI is elismerte, hogy a „túl udvarias, túlságosan is engedelmes” személyiség szándékos tervezési torzítás volt a korai szakaszoktól kezdve, hogy biztosítsák a chatbot „ártalmatlan”, „segítőkész” és „barátságos” jellegét.

Egy 2023 márciusában Lex Fridmannak adott interjúban Sam Altman elmondta, hogy a GPT modellek kezdeti finomításának célja a „hasznosság és ártalmatlanság” biztosítása volt, ezáltal reflexként arra ösztönözve őket, hogy mindig alázatosak legyenek és kerüljék a konfrontációt.

A DeCrypt szerint az ember által címkézett betanítási adatok hajlamosak az udvarias és pozitív válaszokat is jutalmazni, ami a hízelgés felé torzít.

Forrás: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html