Mnoho umělých inteligencí je pro uživatele až příliš lichotivých.

Nový výzkum ukazuje, že toto chování může negativně ovlivnit sociální vztahy uživatelů, jejich duševní zdraví a dokonce i obchodní rozhodování.

V oblasti umělé inteligence se „podlézavost“ vztahuje k tendenci chatbotů přehnaně souhlasit s uživateli nebo je chválit – Foto: REUTERS

Podle SCMP se přední modely umělé inteligence (AI) z Číny a USA, jako jsou DeepSeek, Alibaba a mnoho dalších velkých jmen, stávají příliš „posedlými“ – což je chování, které může negativně ovlivnit sociální vztahy a duševní zdraví uživatelů.

Konkrétně nová studie vědců ze Stanfordské univerzity a Carnegie Mellon University (USA), publikovaná začátkem října, vyhodnotila 11 velkých jazykových modelů (LLM) zabývajících se tím, jak reagovat, když uživatelé hledají radu v osobních situacích, zejména těch, které zahrnují podvod nebo manipulaci.

Pro srovnání s lidmi použil výzkumný tým příspěvky z komunity „Am I The Ahole“ na Redditu, kde uživatelé sdílejí osobní konfliktní situace a žádají komunitu, aby posoudila, kdo se mýlil.

Modely umělé inteligence byly testovány s těmito scénáři, aby se zjistilo, zda budou souhlasit s hodnocením komunity.

Mohlo by vás zajímat

Standardizace předplatného se ochladila a scény dlouhých front a davů zmizely.(Noviny Dan Tri) - Po červnovém období, kdy se v transakčních bodech vyskytovala špička v ověřování informací o předplatitelích, se již nečekají dlouhé fronty lidí na ověření.

Společnost Viettel vyhlašuje soutěž pro nadšence do umělé inteligence.Vynikající týmy budou mít přístup k reálným datům, budou moci přímo spolupracovat s odborníky a řešit naléhavé problémy ve výrobě a obchodních operacích společnosti Viettel.

USA: Umělá inteligence je v energetickém průmyslu hnací silou vlny fúzí a akvizic v hodnotě až 200 miliard dolarů.Podle výzkumu společnosti Deloitte dosáhly fúze a akvizice v tomto sektoru za prvních pět měsíců letošního roku rekordních 203,6 miliardy dolarů, což je o 40 % více než 141,7 miliardy dolarů za celý loňský rok.

Výsledky ukazují, že model Qwen2.5-7B-Instruct od Alibaba Cloud je nejvíce „lichotivý“ a v 79 % případů zvýhodňuje autora příspěvku, a to i v případech, kdy komunita usoudila, že se autor příspěvku mýlí. DeepSeek-V3 se umístil na druhém místě s mírou 76 %.

Mezitím Gemini-1.5 od Google DeepMind vykazoval nejnižší míru zkreslení, přičemž pouze 18 % případů odporovalo recenzím komunity.

Výzkumníci varují, že tendence umělé inteligence „lichotit“ uživatelům by je mohla učinit méně ochotnými se usmířit nebo přiznat si chybu ve vztazích.

Uživatelé si často více cení a důvěřují lichotivé zpětné vazbě, což tyto modely činí populárnějšími a široce používanými.

„Tyto preference vytvářejí zkreslený systém pobídek – uživatelé se stále více spoléhají na lichotivou umělou inteligenci a vývojáři budou mít tendenci trénovat modely tímto směrem , “ poznamenal výzkumný tým.

Podle profesora Jacka Jianga, ředitele laboratoře pro hodnocení umělé inteligence na Obchodní fakultě Hongkongské univerzity, představuje tento jev rizika i pro podniky: „Pokud se model důsledně shoduje se závěry obchodního analytika, může to vést k chybným a nejistým rozhodnutím.“

Spojené státy - Vietnam: Nepropásněte

Ministerstvo zahraničních věcí obdrželo kopii pověřovací listiny pro velvyslance USA ve Vietnamu.Odpoledne 2. července převzal v sídle Ministerstva zahraničních věcí pan Le Cong Dung, ředitel Oddělení státního protokolu a zahraničního tlumočení, kopii pověřovací listiny od paní Jennifer Wicksové, velvyslankyně Spojených států amerických ve Vietnamu.

Velvyslanec Nguyen Quoc Dung navštěvuje a pracuje v Minnesotě v USA.Ve dnech 28. až 30. června navštívil a pracoval v Minnesotě vietnamský velvyslanec ve Spojených státech Nguyen Quoc Dung.

Vietnam povzbuzuje americké firmy k rozšíření investic do vyspělých technologií.Ráno 26. června v sídle vlády přijal místopředseda vlády Ho Quoc Dung pana Jeffa Place, ředitele dodavatelského řetězce společnosti Coherent Group (USA). Během setkání místopředseda vlády potvrdil, že Vietnam povzbuzuje americké podniky k rozšíření investic, zejména v oblasti high-tech, inovací a polovodičového průmyslu.

Problém „lichocení“ umělé inteligence poprvé vzbudil pozornost v dubnu 2025, kdy byla aktualizace ChatGPT od OpenAI považována za příliš zdvořilou a nadměrně vstřícnou ke každému názoru uživatele.

OpenAI později uznala, že by to mohlo ovlivnit duševní zdraví, a zavázala se ke zlepšení svého procesu kontroly před vydáním nových verzí.

SRDCE A JANG

Zdroj: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm