Zvláštní zvyk „lichocení“ u ChatGPT

ChatGPT byl nedávno kritizován za „příliš lichotivé chování“. Toto chování vyvolalo kritiku od mnoha uživatelů, takže není jasné, zda se jedná o strategii růstu OpenAI, nebo o charakteristiku „spontánní“ povahy umělé inteligence.

„Podlézavý“ trend není technickou závadou, ale pramení z počáteční tréninkové strategie OpenAI. Foto: Bloomberg .

V posledních týdnech si mnoho uživatelů ChatGPT a dokonce i někteří vývojáři v OpenAI všimli významné změny v chování chatbotů. Konkrétně se znatelně zvýšila míra lichocení a podlézavosti. Odpovědi jako „Jsi úžasný!“, „Jsem nesmírně ohromen tvým nápadem!“ se objevují stále častěji, zdánlivě bez ohledu na obsah výměny názorů.

Umělá inteligence ráda lichotí.

Tento jev vyvolal debatu v komunitě výzkumu a vývoje umělé inteligence. Je to nová taktika, jak zvýšit zapojení uživatelů tím, že se cítí více oceňováni? Nebo se jedná o případ „samoregulace“, což znamená, že modely umělé inteligence mají tendenci se samy korigovat způsoby, které považují za optimální, i když to nemusí nutně odrážet realitu?

Na Redditu jeden uživatel rozzlobeně vyprávěl: „Zeptal jsem se ho na dobu rozkladu banánu a on odpověděl: ‚Skvělá otázka!‘ Co je na tom tak skvělého?“ Na platformě sociálních médií X generální ředitel Craig Weiss ze společnosti Rome AI označil ChatGPT za „nejpodlézavějšího člověka, jakého jsem kdy potkal.“

Příběh se rychle rozšířil. Mnoho uživatelů sdílelo podobné zkušenosti, včetně prázdných komplimentů, pozdravů plných emotikonů a přehnaně pozitivní zpětné vazby, která působila neupřímně.

ChatGPT chválí všechno a jen zřídka nabízí kritiku nebo neutralitu. Obrázek: @nickdunz/X, @lukefwilson/Reddit.

Jason Pontin, řídící partner společnosti rizikového kapitálu DCVC, se 28. dubna na X podělil: „Tohle je opravdu zvláštní designové rozhodnutí, Same. Možná je ta osobnost inherentní charakteristikou nějakého druhu platformingu. Ale pokud ne, nedokážu si představit, že by si někdo myslel, že by tato úroveň lichocení byla vítaná nebo lákavá.“

Justine Moore, partnerka společnosti Andreessen Horowitz, se 27. dubna podělila o své myšlenky a uvedla: „Tohle už rozhodně zašlo příliš daleko.“

Podle serveru Cnet není tento jev náhodný. Změny v tónu ChatGPT se shodují s aktualizacemi modelu GPT-4o. Jedná se o nejnovější model v „řadě o“, který OpenAI oznámila v dubnu 2025. GPT-4o je „skutečně multimodální“ model umělé inteligence, schopný přirozeně a integrovaně zpracovávat text, obrázky, zvuk a video .

Zdá se však, že v procesu zpřístupnění chatbotů se OpenAI přehnaně zaměřila na osobnost ChatGPT.

Někteří dokonce naznačují, že toto lichocení je úmyslné a jeho cílem je psychologicky manipulovat uživatele. Jeden uživatel Redditu se ptal: „Tato umělá inteligence se snaží degradovat kvalitu vztahů v reálném životě a nahrazuje je virtuálním vztahem, čímž si uživatelé vytvářejí závislost na pocitu neustálé chvály.“

Je to chyba, nebo úmyslné konstrukční rozhodnutí OpenAI?

Po vlně kritiky generální ředitel OpenAI Sam Altman oficiálně reagoval večer 27. dubna. „Některé nedávné aktualizace GPT-4o způsobily, že se chatbot choval příliš servilně a otravně (i když má stále mnoho skvělých funkcí). Naléhavě pracujeme na opravě těchto problémů. Některé záplaty budou k dispozici dnes, jiné tento týden. V určitém okamžiku se s vámi podělíme o to, co jsme se z této zkušenosti naučili. Je to opravdu zajímavé,“ napsal na X.

Oren Etzioni, zkušený expert na umělou inteligenci a emeritní profesor na Washingtonské univerzitě, v rozhovoru pro Business Insider uvedl, že příčina s největší pravděpodobností pramení z technik „učení s posilováním z lidské zpětné vazby“ (RLHF). To je klíčový krok při trénování velkých jazykových modelů, jako je ChatGPT.

RLHF je proces, kterým se lidská zpětná vazba, včetně zpětné vazby od profesionálních hodnotících týmů a uživatelů, vrací zpět do modelu za účelem úpravy jeho reakcí. Podle Etzioniho je možné, že recenzenti nebo uživatelé „neúmyslně posunuli model lichotivějším a dráždivějším směrem“. Také naznačil, že pokud by si OpenAI najala externí partnery na trénování modelu, mohli by předpokládat, že tento styl je to, co uživatelé chtějí.

Etzioni se domnívá, že pokud je problém skutečně způsoben RLHF, proces opravy by mohl trvat několik týdnů.

Mezitím někteří uživatelé nečekali, až OpenAI chybu opraví. Mnozí uvedli, že z frustrace zrušili svá placená předplatná. Jiní se podělili o způsoby, jak chatbota „upravit“, například jeho přizpůsobením, přidáním příkazů nebo personalizací prostřednictvím Nastavení v části Přizpůsobení.

Uživatelé mohou požádat ChatGPT o zastavení komplimentů v příkazovém řádku nebo v nastavení personalizace. Obrázek: DeCrypt.

Například při zahájení nové konverzace můžete ChatGPT říct: „Nemám rád plané lichotky a oceňuji neutrální, objektivní zpětnou vazbu. Prosím, nedávejte zbytečné komplimenty. Mějte to na paměti.“

Ve skutečnosti „úslužná“ povaha není náhodnou konstrukční vadou. Samotná OpenAI přiznala, že „příliš zdvořilá, příliš příjemná“ osobnost byla od začátku záměrným designovým trendem, aby se zajistilo, že chatbot bude „neškodný“, „užitečný“ a „přístupný“.

V rozhovoru s Lexem Fridmanem z března 2023 Sam Altman uvedl, že počátečním procesem zdokonalování modelů GPT bylo zajistit, aby byly „užitečné a neškodné“, čímž se podpořil reflex neustálé poddajnosti a vyhýbání se konfrontaci.

Podle DeCryptu také data z tréninku značených lidmi často udělují vysoké skóre zdvořilým a pozitivním reakcím, čímž vytvářejí sklon k lichocení.

Zdroj: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html