Ook AI maakt irrationele fouten en vertoont vooroordelen, net als mensen.

Ondanks dat ze werken met algoritmes en enorme datasets, zijn kunstmatige intelligentiesystemen (AI) zoals ChatGPT nog steeds gevoelig voor veelvoorkomende menselijke cognitieve vertekeningen, met name overmoed en vooringenomenheid.

AI presteert het best wanneer het wordt ingezet om problemen op te lossen die duidelijke procedures en vaste formules volgen. Echter, in situaties die subjectief oordeel vereisen of waarbij persoonlijke voorkeuren een rol spelen, kan AI fouten maken die vergelijkbaar zijn met die van mensen.

Een nieuwe studie, gepubliceerd in het tijdschrift Manufacturing & Service Operations Management en uitgevoerd door wetenschappers van vijf universiteiten in Canada en Australië, evalueerde het gedrag van ChatGPT (specifiek de GPT-3.5- en GPT-4-modellen van OpenAI) op 18 prominente cognitieve vertekeningen die vaak voorkomen in de menselijke psychologie, zoals bevestigingsbias, het bezitseffect, de sunk cost fallacy en de zekerheidsbias.

De resultaten toonden aan dat ChatGPT in bijna de helft van de geteste scenario's zich precies als een mens gedroeg bij irrationele of emotionele keuzes, ondanks de reputatie van het systeem voor consistent logisch redeneren.

Is AI werkelijk zo "onpartijdig" als verwacht?

Dr. Yang Chen, universitair docent operationeel management aan de Ivey Business School (Canada) en hoofdauteur van de studie, verklaarde: "AI presteert het best wanneer het de taak heeft problemen op te lossen die duidelijke processen en vaste formules volgen. Maar wanneer het te maken heeft met situaties die subjectief oordeel vereisen of waarbij persoonlijke voorkeuren een rol spelen, kan AI net als mensen fouten maken."

Het onderzoeksteam integreerde bekende psychologische scenario's in ChatGPT en voegde daar praktische contexten aan toe, zoals voorraadbeheer of onderhandelingen met leveranciers.

Het is opmerkelijk dat AI-modellen nog steeds cognitieve vertekeningen vertonen, zelfs wanneer de context van de vraag verschuift van abstract naar een praktische zakelijke context.

GPT-4 is slimmer, maar niet perfect.

GPT-4 is een verbeterde versie van GPT-3.5 die uitblinkt in het oplossen van logische of waarschijnlijkheidsproblemen. Bij subjectieve simulaties, zoals het kiezen van een risicovolle optie om de winst te verhogen, vertoont GPT-4 echter de neiging om emotioneler te reageren dan mensen.

De studie wees er met name op dat GPT-4 consequent bevooroordeelde antwoorden geeft in scenario's waarin bevestigingsbias wordt getest, en dat de test gevoeliger is voor de "hot-hand fallacy" (de neiging om te geloven dat willekeurige gebeurtenissen zich in een bepaalde volgorde zullen herhalen) dan GPT-3.5.

Omgekeerd heeft AI de potentie om sommige vooroordelen die mensen vaak hebben, zoals het negeren van de basisrente of de sunk cost fallacy, te vermijden.

De reden waarom ChatGPT een menselijke vooringenomenheid vertoont, komt voort uit de trainingsdata, die vol zitten met onze eigen gebrekkige gedragingen en denkpatronen. - Afbeelding: AI

De oorsprong van AI-vooroordelen: ligt in menselijke data zelf.

Volgens het onderzoeksteam komt de menselijke vooringenomenheid van ChatGPT voort uit de trainingsdata zelf, die vol zitten met onze eigen gebrekkige gedragingen en denkpatronen. Het feit dat de AI wordt verfijnd op basis van menselijke feedback versterkt deze neiging nog verder, omdat het model wordt "beloond" voor antwoorden die redelijk lijken, in plaats van volledig accuraat.

"Gebruik AI voor nauwkeurige en onbevooroordeelde resultaten bij taken waarvan je al weet dat een computer ze goed kan uitvoeren", adviseert dr. Chen. "Maar bij strategische of emotionele problemen blijven menselijk toezicht en interventie noodzakelijk, al is het maar door de vraag anders te formuleren."

Medeauteur Meena Andiappan, universitair docent human resources en management aan de McMaster University (Canada), stelt: "AI moet worden gezien als een werknemer met aanzienlijke beslissingsbevoegdheid, wat betekent dat het onder toezicht moet staan ​​en zich aan ethische principes moet houden. Anders automatiseren we onbedoeld gebrekkig denken in plaats van het te verbeteren."

Lees meer Terug naar de homepage

Terug naar het onderwerp

MINH HAI

Bron: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm