IA face, de asemenea, greșeli iraționale și prezintă prejudecăți, la fel ca oamenii.

Deși funcționează pe baza unor algoritmi și a unor seturi masive de date, sistemele de inteligență artificială (IA) precum ChatGPT sunt încă susceptibile la prejudecățile cognitive umane comune, și anume supraîncrederea și prejudecățile.

IA are cele mai bune performanțe atunci când are sarcina de a rezolva probleme care respectă proceduri clare și formule fixe. Cu toate acestea, atunci când se ocupă de situații care necesită judecată subiectivă sau care implică preferințe personale, IA poate face greșeli similare cu oamenii.

Un nou studiu publicat în revista Manufacturing & Service Operations Management, realizat de oameni de știință de la cinci universități din Canada și Australia, a evaluat comportamentul ChatGPT (în special, modelele GPT-3.5 și GPT-4 ale OpenAI) asupra a 18 prejudecăți cognitive proeminente întâlnite frecvent în psihologia umană, cum ar fi prejudecata de confirmare, efectul posesiv, eroarea costului irecuperabil și prejudecata de certitudine.

Rezultatele au arătat că, în aproape jumătate din scenariile testate, ChatGPT s-a comportat exact ca un om atunci când s-a confruntat cu alegeri iraționale sau emoționale, în ciuda reputației sistemului pentru raționament logic consecvent.

Este IA cu adevărat atât de „imparțială” pe cât era de așteptat?

Dr. Yang Chen, profesor asociat de management operațional la Ivey Business School (Canada) și autor principal al studiului, a declarat: „IA are cele mai bune performanțe atunci când are sarcina de a rezolva probleme care respectă procese clare și formule fixe. Dar atunci când se ocupă de situații care necesită judecată subiectivă sau care implică preferințe personale, IA poate face greșeli la fel ca oamenii.”

Echipa de cercetare a încorporat scenarii psihologice familiare în ChatGPT, adăugând contexte practice precum gestionarea stocurilor sau negocierile cu furnizorii.

Este demn de remarcat faptul că modelele de IA prezintă în continuare prejudecăți cognitive chiar și atunci când contextul întrebării este mutat de la un context abstract la un context practic de afaceri.

GPT-4 este mai inteligent, dar nu este perfect.

GPT-4 este o versiune îmbunătățită a GPT-3.5 care excelează în rezolvarea problemelor de logică sau probabilitate. Cu toate acestea, în simulările subiective, cum ar fi alegerea unei opțiuni riscante pentru a crește profitul, GPT-4 prezintă o tendință de a se comporta mai emoțional decât oamenii.

În special, studiul a remarcat că GPT-4 oferă în mod constant răspunsuri părtinitoare în scenariile de testare a erorii de confirmare și este mai predispus la „eroarea mâinii fierbinți”, o tendință de a crede că evenimentele aleatorii se vor repeta într-o secvență, decât GPT-3.5.

În schimb, inteligența artificială are potențialul de a evita unele dintre prejudecățile pe care le fac adesea oamenii, cum ar fi trecerea cu vederea a neglijării ratei de bază sau eroarea costurilor irecuperabile.

Motivul pentru care ChatGPT prezintă o prejudecată similară cu cea umană provine din datele sale de antrenament, care sunt pline de propriile noastre comportamente și tipare de gândire defectuoase. - Imagine: AI

Originea prejudecății AI: Din datele umane în sine.

Potrivit echipei de cercetare, motivul pentru care ChatGPT prezintă o prejudecată similară cu cea umană provine din datele de antrenament în sine, care sunt pline de propriile noastre comportamente și tipare de gândire defectuoase. Faptul că inteligența artificială este rafinată pe baza feedback-ului uman întărește și mai mult această tendință, deoarece modelul este „recompensat” pentru răspunsuri care par rezonabile, mai degrabă decât complet exacte.

„Pentru rezultate precise și imparțiale, folosiți inteligența artificială pentru sarcinile pe care aveți deja încredere că un computer le va gestiona bine”, recomandă Dr. Chen. „Cu toate acestea, pentru problemele strategice sau emoționale, supravegherea și intervenția umană sunt în continuare necesare, chiar dacă este vorba doar de rescrierea întrebării.”

Coautoarea Meena Andiappan, profesor asociat de resurse umane și management la Universitatea McMaster (Canada), susține: „IA ar trebui privită ca un angajat cu o putere decizională semnificativă, ceea ce înseamnă că trebuie supravegheată și să respecte principiile etice. Altfel, automatizăm în mod accidental gândirea eronată în loc să o îmbunătățim.”

Citeşte mai mult Înapoi la pagina principală

Revenind la subiect

MINH HAI

Sursă: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm