AI presterar bäst när den har i uppgift att lösa problem som följer tydliga procedurer och fasta formler. Men när den hanterar situationer som kräver subjektiv bedömning eller involverar personliga preferenser kan AI göra misstag liknande människor.
En ny studie publicerad i tidskriften Manufacturing & Service Operations Management, utförd av forskare vid fem universitet i Kanada och Australien, utvärderade beteendet hos ChatGPT (specifikt OpenAI:s GPT-3.5- och GPT-4-modeller) baserat på 18 framträdande kognitiva bias som vanligtvis förekommer i mänsklig psykologi, såsom bekräftelsebias, possessiv effekt, sunk cost fallacy och säkerhetsbias.
Resultaten visade att ChatGPT i nästan hälften av de testade scenarierna betedde sig exakt som en människa när den ställdes inför irrationella eller känslomässiga val, trots systemets rykte om konsekvent logiskt resonemang.
Är AI verkligen så "opartisk" som förväntat?
Dr. Yang Chen, docent i verksamhetsledning vid Ivey Business School (Kanada) och huvudförfattare till studien, konstaterade: "AI presterar bäst när den har i uppgift att lösa problem som följer tydliga processer och fasta formler. Men när den hanterar situationer som kräver subjektiv bedömning eller involverar personliga preferenser kan AI göra misstag precis som människor."
Forskargruppen införlivade välbekanta psykologiska scenarier i ChatGPT och lade till praktiska sammanhang som lagerhantering eller leverantörsförhandlingar.
Det är anmärkningsvärt att AI-modeller fortfarande uppvisar kognitiv bias även när frågeställningens kontext flyttas från abstrakt till praktisk affärskontext.
GPT-4 är smartare, men det är inte perfekt.
GPT-4 är en uppgraderad version av GPT-3.5 som utmärker sig på att lösa logik- eller sannolikhetsproblem. I subjektiva simuleringar, såsom att välja ett riskabelt alternativ för att öka vinsten, uppvisar dock GPT-4 en tendens att bete sig mer känslomässigt än människor.
Studien noterade särskilt att GPT-4 konsekvent ger partiska svar i scenarier med bekräftelsebias och är mer benägen för "hot-hand fallacy", en tendens att tro att slumpmässiga händelser kommer att upprepas i en sekvens, än GPT-3.5.
Omvänt har AI potential att undvika några av de fördomar som människor ofta gör, som att förbise basränteförsummelse eller felslutet om nedsänkta kostnader.
Anledningen till att ChatGPT uppvisar människoliknande bias härrör från dess träningsdata, som är full av våra egna bristfälliga beteenden och tankemönster. - Bild: AI
Ursprunget till AI-bias: Från själva mänskliga data.
Enligt forskargruppen härrör anledningen till att ChatGPT uppvisar människoliknande bias från själva träningsdatan, som är full av våra egna bristfälliga beteenden och tankemönster. Det faktum att AI:n förfinas baserat på mänsklig feedback förstärker ytterligare denna tendens, eftersom modellen "belönas" för svar som verkar rimliga, snarare än helt korrekta.
”För korrekta och opartiska resultat, använd AI för uppgifter som du redan litar på att en dator hanterar väl”, rekommenderar Dr. Chen. ”Men för strategiska eller känslomässiga problem är mänsklig tillsyn och intervention fortfarande nödvändig, även om det bara är genom att skriva om frågan.”
Medförfattaren Meena Andiappan, docent i personalfrågor och management vid McMaster University (Kanada), menar: ”AI bör ses som en anställd med betydande beslutsmakt, vilket innebär att den behöver övervakas och följa etiska principer. Annars automatiserar vi oavsiktligt felaktigt tänkande istället för att förbättra det.”
Källa: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm
![[Foto] Beundra korallens "mästerverk" mitt i Dak Lak-provinsens miljonåriga arv.](https://vphoto.vietnam.vn/thumb/1200x675/vietnam/resource/IMAGE/2026/05/30/1780107638639_y25-jpg.webp)
Kommentar (0)