Inteligența artificială are halucinații, dar oamenii suferă mai mult

CEO-ul Anthropic, Dario Amodei, face comentarii controversate despre capacitățile de „halucinație” ale inteligenței artificiale actuale în comparație cu cele umane.

Noul album Claude 4 de la Anthropic este mai inteligent, dar tot halucinant. Foto: Anthropic .

La primul eveniment pentru dezvoltatori organizat de Anthropic în San Francisco, CEO-ul Dario Amodei a declarat că modelele actuale de inteligență artificială pot crea „halucinații” la o rată mai mică decât cea a oamenilor. „Halucinațiile” sunt înțelese aici ca fenomenul prin care inteligența artificială creează conținut fictiv, dar îl prezintă ca fiind real.

Amodei a subliniat că faptul că IA are halucinații nu împiedică obiectivul Anthropic de a atinge AGI (Inteligență Artificială Generală). „Depinde de măsurătorile pe care le faci, dar cred că frecvența halucinațiilor în modelele de IA este probabil mai mică decât la oameni, doar că modul în care greșesc este mai surprinzător”, a spus el.

Amodei a fost unul dintre cei mai vocali susținători ai inteligenței artificiale generale (AGI) din industrie. „Oamenii încearcă mereu să găsească o «limită superioară» pentru IA”, spune el. „În prezent, nu vedem o astfel de limită superioară.”

CEO-ul Anthropic este unul dintre susținătorii „optimismului bazat pe inteligența artificială”. Foto: Anthropic.

Nu toată lumea este de acord, însă. Demis Hassabis, CEO-ul Google DeepMind, a subliniat săptămâna aceasta că modelele actuale de inteligență artificială sunt „pline de lacune”, ajungând chiar să răspundă greșit la unele întrebări de bază.

Există, de asemenea, semne că unele modele mai noi au o incidență mai mare a problemelor atunci când vine vorba de sarcini complexe de inferență. Versiunile o3 și o4-mini ale OpenAI au o incidență crescută a halucinațiilor în comparație cu modelele de inferență anterioare. Nici măcar OpenAI nu înțelege de ce.

Amodei a menționat, de asemenea, că oamenii greșesc adesea, așa că a spus că doar pentru că IA greșește nu înseamnă că „nu este suficient de inteligentă”. Cu toate acestea, liderul antropologic a recunoscut, de asemenea, că aceasta poate cauza cu ușurință probleme atunci când oferă informații false cu o fiabilitate extrem de ridicată.

Remarcile lui Amodei au stârnit dezbateri în comunitatea inteligenței artificiale cu privire la adevăratele capacități ale modelelor actuale. Unii experți sunt de acord că inteligența artificială face progrese semnificative în reducerea iluziilor. Alții avertizează asupra riscurilor potențiale ale încrederii excesive a inteligenței artificiale în informații inexacte.

Discuția reflectă o provocare majoră cu care se confruntă industria inteligenței artificiale. Companiile caută să dezvolte sisteme care să fie atât inteligente, cât și de încredere, capabile să gestioneze incertitudinea din răspunsurile lor.

Sursă: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html