A mesterséges intelligencia irracionális hibákat követ el, és ugyanúgy elfogultságot mutat, mint az emberek.

Annak ellenére, hogy algoritmusokon és hatalmas adathalmazokon működnek, a mesterséges intelligencia (MI) rendszerek, mint például a ChatGPT, továbbra is érzékenyek az emberi kognitív torzításokra, nevezetesen a túlzott önbizalomra és az elfogultságra.

A mesterséges intelligencia akkor teljesít a legjobban, ha olyan problémák megoldására van bízva, amelyek egyértelmű eljárásokat és rögzített képleteket követnek. Azonban szubjektív megítélést igénylő vagy személyes preferenciákat érintő helyzetekben a mesterséges intelligencia az emberekhez hasonló hibákat követhet el.

Egy új, a Manufacturing & Service Operations Management folyóiratban megjelent tanulmány, melyet öt kanadai és ausztrál egyetem tudósai végeztek, a ChatGPT (konkrétan az OpenAI GPT-3.5 és GPT-4 modelljeinek) viselkedését értékelte 18 kiemelkedő, az emberi pszichológiában gyakran előforduló kognitív torzítással kapcsolatban, mint például a megerősítési torzítás, a birtokos hatás, az elsüllyedt költség tévedése és a bizonyossági torzítás.

Az eredmények azt mutatták, hogy a tesztelt forgatókönyvek közel felében a ChatGPT pontosan úgy viselkedett, mint egy ember, amikor irracionális vagy érzelmi döntésekkel kellett szembenéznie, annak ellenére, hogy a rendszer köztudottan következetes logikus érvelésre képes.

Valóban annyira „pártatlan” a mesterséges intelligencia, mint ahogy várták?

Dr. Yang Chen, az Ivey Business School (Kanada) operatív menedzsment docense és a tanulmány vezető szerzője kijelentette: „A mesterséges intelligencia akkor teljesít a legjobban, ha olyan problémák megoldására van bízva, amelyek világos folyamatokat és rögzített képleteket követnek. De amikor szubjektív megítélést igénylő vagy személyes preferenciákat érintő helyzetekkel foglalkozik, a mesterséges intelligencia az emberekhez hasonlóan hibákat követhet el.”

A kutatócsoport ismerős pszichológiai forgatókönyveket épített be a ChatGPT-be, olyan gyakorlati kontextusokkal kiegészítve, mint a készletgazdálkodás vagy a beszállítói tárgyalások.

Figyelemre méltó, hogy a mesterséges intelligencia modelljei továbbra is kognitív torzítást mutatnak, még akkor is, ha a kérdés kontextusa az absztraktból a gyakorlati üzleti kontextusba kerül.

A GPT-4 okosabb, de nem tökéletes.

A GPT-4 a GPT-3.5 továbbfejlesztett változata, amely kiválóan alkalmas logikai vagy valószínűségi problémák megoldására. Szubjektív szimulációkban, például egy kockázatos opció kiválasztásánál a profit növelése érdekében, a GPT-4 hajlamosabb az érzelmileg erősebb viselkedésre, mint az emberek.

A tanulmány különösen megjegyezte, hogy a GPT-4 következetesen torzított válaszokat ad a megerősítési torzítás tesztelési forgatókönyveiben, és hajlamosabb a „forró kéz tévedésére”, arra a tendenciára, hogy a véletlenszerű események sorozatban ismétlődnek.

Ezzel szemben a mesterséges intelligencia képes elkerülni az emberek által gyakran elkövetett torzítások egy részét, például az alapkamat elhanyagolásának vagy az elsüllyedt költségek tévedésének figyelmen kívül hagyását.

Az ok, amiért a ChatGPT emberi jellegű elfogultságot mutat, a betanítási adataiban rejlik, amelyek tele vannak a saját hibás viselkedéseinkkel és gondolkodási mintáinkkal. - Kép: AI

A mesterséges intelligencia általi elfogultság eredete: Magukból az emberi adatokból.

A kutatócsoport szerint a ChatGPT emberi jellegű torzításának oka magában a betanítási adatban rejlik, amely tele van a saját hibás viselkedési és gondolkodási mintáinkkal. Az a tény, hogy a mesterséges intelligencia emberi visszajelzések alapján finomodik, tovább erősíti ezt a tendenciát, mivel a modellt az ésszerűnek tűnő válaszokért „jutalmazzák”, nem pedig a teljesen pontosakért.

„A pontos és elfogulatlan eredmények érdekében használjon mesterséges intelligenciát azokhoz a feladatokhoz, amelyek kezelésében már megbízik egy számítógéppel” – javasolja Dr. Chen. „Stratégiai vagy érzelmi problémák esetén azonban továbbra is szükség van emberi felügyeletre és beavatkozásra, még akkor is, ha ez egyszerűen a kérdés átfogalmazásából áll.”

Meena Andiappan, a kanadai McMaster Egyetem humánerőforrás és menedzsment tanszékének docense, a tanulmány társszerzője szerint: „A mesterséges intelligenciát jelentős döntéshozatali hatalommal rendelkező alkalmazottként kell tekinteni, ami azt jelenti, hogy felügyelni kell, és etikai elveket kell betartania. Ellenkező esetben akaratlanul is automatizáljuk a hibás gondolkodást ahelyett, hogy javítanánk rajta.”

További információ Vissza a kezdőlapra

Vissza a témához

MINH HAI

Forrás: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm