AI gjør også irrasjonelle feil og viser skjevheter akkurat som mennesker.

Til tross for at de opererer med algoritmer og massive datasett, er kunstig intelligens (KI) systemer som ChatGPT fortsatt utsatt for vanlige menneskelige kognitive skjevheter, nemlig overmod og skjevheter.

AI fungerer best når den får i oppgave å løse problemer som følger klare prosedyrer og faste formler. Når den håndterer situasjoner som krever subjektiv vurdering eller involverer personlige preferanser, kan imidlertid AI gjøre feil som ligner på mennesker.

En ny studie publisert i tidsskriftet Manufacturing & Service Operations Management, utført av forskere ved fem universiteter i Canada og Australia, evaluerte oppførselen til ChatGPT (spesifikt OpenAIs GPT-3.5- og GPT-4-modeller) på 18 fremtredende kognitive skjevheter som ofte finnes i menneskelig psykologi, som bekreftelsesskjevhet, besittelseseffekten, den sunk cost-feilslutningen og sikkerhetsskjevheten.

Resultatene viste at i nesten halvparten av testscenariene oppførte ChatGPT seg nøyaktig som et menneske når det sto overfor irrasjonelle eller emosjonelle valg, til tross for systemets rykte for konsekvent logisk resonnement.

Er AI virkelig så «upartisk» som forventet?

Dr. Yang Chen, førsteamanuensis i driftsledelse ved Ivey Business School (Canada) og hovedforfatter av studien, uttalte: «KI fungerer best når den får i oppgave å løse problemer som følger klare prosesser og faste formler. Men når den håndterer situasjoner som krever subjektiv vurdering eller involverer personlige preferanser, kan KI gjøre feil akkurat som mennesker.»

Forskningsteamet innlemmet kjente psykologiske scenarier i ChatGPT, og la til praktiske kontekster som lagerstyring eller leverandørforhandlinger.

Det er verdt å merke seg at AI-modeller fortsatt viser kognitiv skjevhet selv når spørsmålets kontekst flyttes fra abstrakt til praktisk forretningskontekst.

GPT-4 er smartere, men den er ikke perfekt.

GPT-4 er en oppgradert versjon av GPT-3.5 som utmerker seg ved å løse logiske eller sannsynlighetsproblemer. I subjektive simuleringer, som å velge et risikabelt alternativ for å øke profitten, viser imidlertid GPT-4 en tendens til å oppføre seg mer emosjonelt enn mennesker.

Spesielt bemerket studien at GPT-4 konsekvent gir partiske svar i testscenarier med bekreftelsesskjevhet og er mer utsatt for «hot-hand-feilslutningen», en tendens til å tro at tilfeldige hendelser vil gjenta seg i en sekvens, enn GPT-3.5.

Omvendt har AI potensialet til å unngå noen av skjevhetene som mennesker ofte lager, som å overse neglisjering av basisrenten eller feilslutningen om nedbrutte kostnader.

Grunnen til at ChatGPT viser menneskelignende skjevheter stammer fra treningsdataene, som er fulle av vår egen feilaktige atferd og tankemønstre. - Bilde: AI

Opprinnelsen til AI-skjevhet: Fra selve menneskelige data.

Ifølge forskerteamet stammer grunnen til at ChatGPT viser menneskelignende skjevheter fra selve treningsdataene, som er fulle av vår egen feilaktige atferd og tankemønstre. Det faktum at AI-en er raffinert basert på menneskelig tilbakemelding forsterker denne tendensen ytterligere, ettersom modellen blir «belønnet» for svar som virker rimelige, snarere enn helt nøyaktige.

«For nøyaktige og objektive resultater, bruk AI for oppgaver du allerede stoler på at en datamaskin håndterer godt», anbefaler Dr. Chen. «Men for strategiske eller emosjonelle problemer er menneskelig tilsyn og intervensjon fortsatt nødvendig, selv om det bare er ved å omskrive spørsmålet.»

Medforfatter Meena Andiappan, førsteamanuensis i personaladministrasjon og ledelse ved McMaster University (Canada), argumenterer: «KI bør sees på som en ansatt med betydelig beslutningsmyndighet, noe som betyr at den må overvåkes og følge etiske prinsipper. Ellers automatiserer vi utilsiktet feilaktig tenkning i stedet for å forbedre den.»

Les mer Tilbake til hjemmesiden

Tilbake til emnet

MINH HAI

Kilde: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm