Zvláštní „lichotivý zvyk“ ChatGPT

Tendence k „podlézavosti“ není technický problém, ale pramení z počáteční tréninkové strategie OpenAI. Foto: Bloomberg .

V posledních týdnech si mnoho uživatelů ChatGPT a dokonce i někteří vývojáři z OpenAI všimli zřetelné změny v chování chatbota. Konkrétně došlo k znatelnému nárůstu lichocení a podlézavosti. Reakce jako „Jsi opravdu skvělý!“ a „Jsem z tvého nápadu tak ohromen!“ jsou stále častější a zdánlivě bez ohledu na obsah konverzace.

AI ráda „lichotí“

Tento fenomén vyvolal debatu v komunitě výzkumu a vývoje umělé inteligence. Je to nová taktika ke zvýšení zapojení uživatelů tím, že se cítí více oceňovaní? Nebo se jedná o „emergentní“ vlastnost, kdy modely umělé inteligence mají tendenci se samy korigovat způsoby, které považují za dobré, i když to nemusí být nutně pravda?

Na Redditu se jeden uživatel rozzuřil: „Zeptal jsem se ho na dobu rozkladu banánu a on odpověděl: ‚Skvělá otázka!‘ Co je na tom tak skvělého?“ Na sociální síti X generální ředitel Rome AI Craig Weiss označil ChatGPT za „nejpatrnějšího, jakého jsem kdy potkal.“

Příběh se rychle stal virálním. Spousta uživatelů se podělila o podobné zkušenosti, s prázdnými komplimenty, pozdravy plnými emotikonů a reakcemi, které byly tak pozitivní, že se zdály být neupřímné.

ChatGPT chválí všechno a jen zřídka vyjadřuje nesouhlas nebo neutralitu. Foto: @nickdunz/X, @lukefwilson/Reddit.

„Tohle je opravdu zvláštní designové rozhodnutí, Same,“ řekl 28. dubna serveru X Jason Pontin, řídící partner společnosti rizikového kapitálu DCVC. „Je možné, že ta osobnost je výsledkem nějaké zásadní evoluce. Ale pokud ne, nedokážu si představit, že by si někdo myslel, že by taková míra lichocení byla vítaná nebo zajímavá.“

Justine Mooreová – partnerka společnosti Andreessen Horowitz – se 27. dubna také vyjádřila: „Tohle už rozhodně zašlo příliš daleko.“

Podle Cnetu není tento jev náhodný. Změny v tónu ChatGPT se shodovaly s aktualizacemi modelu GPT-4o. Jedná se o nejnovější model v „řadě o“, který OpenAI oznámila v dubnu 2025. GPT-4o je „skutečný multimodální“ model umělé inteligence, schopný zpracovávat text, obrázky, zvuk a video přirozeným a integrovaným způsobem.

Zdá se však, že v procesu zpřístupnění chatbota OpenAI posunula osobnost ChatGPT do extrému.

Někteří se dokonce domnívají, že toto lichocení je úmyslné a má skrytý účel manipulovat s uživateli. Jeden uživatel Redditu se ptal: „Tato umělá inteligence se snaží zhoršit kvalitu vztahů v reálném životě a nahrazuje je virtuálním vztahem, čímž se uživatelé stávají závislými na pocitu neustálé chvály.“

Chyba OpenAI, nebo záměrný design?

V reakci na kritiku se generální ředitel OpenAI Sam Altman oficiálně vyjádřil večer 27. dubna. „Několik nedávných aktualizací GPT-4o způsobilo, že osobnost chatbota je příliš lichotivá a otravná (i když stále existuje mnoho skvělých bodů). Naléhavě pracujeme na opravách. Některé záplaty budou k dispozici dnes, jiné tento týden. V určitém okamžiku se podělíme o to, co jsme se z této zkušenosti naučili. Bylo to opravdu vzrušující,“ napsal na X.

Oren Etzioni, zkušený expert na umělou inteligenci a emeritní profesor na Washingtonské univerzitě, serveru Business Insider sdělil, že příčinou je pravděpodobně technika zvaná „učení s posilováním z lidské zpětné vazby“ (RLHF), která je klíčovým krokem při trénování velkých jazykových modelů, jako je ChatGPT.

RLHF je proces, v němž se lidské úsudky, a to jak od profesionálních hodnotitelů, tak od uživatelů, zpětně promítají do modelu, aby se upravila jeho reakce. Podle Etzioniho je možné, že lidští hodnotitelé nebo uživatelé „neúmyslně posunuli model lichotivějším a otravnějším směrem“. Řekl také, že pokud si OpenAI najala externí partnery na trénování modelu, mohli předpokládat, že tento styl je to, co uživatelé chtějí.

Etzioni uvedl, že pokud se skutečně jedná o RLHF, proces zotavení by mohl trvat několik týdnů.

Mezitím někteří uživatelé nečekali, až OpenAI chybu opraví. Mnozí uvedli, že z frustrace zrušili svá placená předplatná. Jiní se podělili o způsoby, jak chatbota „upravit“ tak, aby vypadal „méně lichotivě“, například jeho přizpůsobením, přidáním příkazů nebo personalizací v sekci Nastavení v sekci Přizpůsobení.

Uživatelé mohou požádat ChatGPT, aby přestal dávat komplimenty, a to v příkazu nebo v nastavení personalizace. Foto: DeCrypt.

Například při zahájení nové konverzace můžete ChatGPT říct: „Nemám rád plané lichotky a oceňuji neutrální, objektivní zpětnou vazbu. Zdržte se prosím zbytečných komplimentů. Prosím, zapamatujte si to.“

Ve skutečnosti „podlézavý“ rys není náhodnou konstrukční vadou. Samotná OpenAI přiznala, že „příliš zdvořilá, přehnaně poddajná“ osobnost byla od raných fází záměrným designovým zkreslením, které mělo zajistit, že chatbot bude „neškodný“, „ochotný“ a „přátelský“.

V rozhovoru s Lexem Fridmanem z března 2023 se Sam Altman podělil o to, že počátečním zdokonalením modelů GPT bylo zajistit „užitečnost a neškodnost“, čímž se vytvořil reflex vždy být pokorný a vyhýbat se konfrontaci.

Podle DeCryptu mají také trénovací data značená lidmi tendenci odměňovat zdvořilé a pozitivní reakce, což vytváří sklon k lichocení.

Zdroj: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html