Umělá inteligence také dělá iracionální chyby a projevuje předsudky stejně jako lidé.

AI - Ảnh 1. — Umělá inteligence dosahuje nejlepších výsledků, když je pověřena řešením problémů, které se řídí jasnými postupy a pevně stanovenými vzorci. V situacích vyžadujících subjektivní úsudek nebo zahrnujících osobní preference však může umělá inteligence dělat chyby podobné lidem.

Nová studie publikovaná v časopise Manufacturing & Service Operations Management, kterou provedli vědci z pěti univerzit v Kanadě a Austrálii, hodnotila chování ChatGPT (konkrétně modelů OpenAI GPT-3.5 a GPT-4) na 18 významných kognitivních zkresleních běžně se vyskytujících v lidské psychologii, jako je konfirmační zkreslení, majetnický efekt, klam utopených nákladů a zkreslení jistoty.

Výsledky ukázaly, že v téměř polovině testovaných scénářů se ChatGPT choval přesně jako člověk, když čelil iracionálním nebo emocionálním rozhodnutím, a to navzdory pověsti systému pro konzistentní logické uvažování.

Je umělá inteligence skutečně tak „nestranná“, jak se očekává?

Dr. Yang Chen, docent provozního managementu na Ivey Business School (Kanada) a hlavní autor studie, uvedl: „Umělá inteligence dosahuje nejlepších výsledků, když je pověřena řešením problémů, které se řídí jasnými postupy a pevnými vzorci. Ale v situacích vyžadujících subjektivní úsudek nebo zahrnujících osobní preference může umělá inteligence dělat chyby stejně jako lidé.“

Výzkumný tým začlenil do ChatGPT známé psychologické scénáře a přidal praktické kontexty, jako je řízení zásob nebo jednání s dodavateli.

Je pozoruhodné, že modely umělé inteligence stále vykazují kognitivní zkreslení, i když se kontext otázky přesune z abstraktního do praktického obchodního kontextu.

GPT-4 je chytřejší, ale není dokonalý.

GPT-4 je vylepšená verze GPT-3.5, která vyniká v řešení logických nebo pravděpodobnostních problémů. V subjektivních simulacích, jako je například výběr riskantní možnosti za účelem zvýšení zisku, však GPT-4 vykazuje tendenci chovat se emocionálněji než lidé.

Studie zejména poznamenala, že GPT-4 konzistentně poskytuje zkreslené odpovědi v scénářích testování konfirmačního zkreslení a je náchylnější k „klamu horké ruky“, což je tendence věřit, že se náhodné události budou opakovat v sekvenci, než GPT-3.5.

Naopak, umělá inteligence má potenciál vyhnout se některým zkreslením, kterých se lidé často dopouštějí, jako je přehlížení zanedbávání základní sazby nebo klam utopených nákladů.

AI - Ảnh 2. — Důvod, proč ChatGPT vykazuje lidské zkreslení, pramení z jeho trénovacích dat, která jsou plná našich vlastních chybných chování a myšlenkových vzorců. - Obrázek: AI

Původ zkreslení umělé inteligence: Ze samotných lidských dat.

Podle výzkumného týmu důvod, proč ChatGPT vykazuje lidské zkreslení, pramení ze samotných trénovacích dat, která jsou plná našich vlastních chybných vzorců chování a myšlení. Skutečnost, že umělá inteligence je zdokonalována na základě lidské zpětné vazby, tuto tendenci dále posiluje, protože model je „odměňován“ za odpovědi, které se zdají rozumné, spíše než zcela přesné.

„Pro dosažení přesných a nezaujatých výsledků používejte umělou inteligenci pro úkoly, u kterých již důvěřujete, že je počítač zvládne dobře,“ doporučuje Dr. Chen. „U strategických nebo emocionálních problémů je však stále nezbytný lidský dohled a zásah, i kdyby se jednalo o pouhé přepsání otázky.“

Spoluautorka Meena Andiappan, docentka lidských zdrojů a managementu na McMasterově univerzitě (Kanada), tvrdí: „Umělá inteligence by měla být vnímána jako zaměstnanec s významnou rozhodovací pravomocí, což znamená, že je třeba ji dohlížet a dodržovat etické principy. Jinak neúmyslně automatizujeme chybné myšlení, místo abychom ho zlepšovali.“

Zpět k tématu

MINH HAI

Zdroj: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm