AI hallucinerar, men människor lider mer

Anthropics nyligen utgivna Claude 4 är smartare, men fortfarande hallucinatorisk. Foto: Anthropic .

Vid Anthropics första utvecklarevenemang i San Francisco sa VD Dario Amodei att nuvarande AI-modeller kan skapa "hallucinationer" i en lägre takt än människor. "Hallucinationer" förstås här som fenomenet att AI skapar fiktivt innehåll men presenterar det som verkligt.

Amodei betonade att det faktum att AI hallucinerar inte hindrar Anthropics mål att uppnå AGI (Artificiell Generell Intelligens). "Det beror på dina mätningar, men jag tror att frekvensen av hallucinationer i AI-modeller förmodligen är lägre än hos människor, det är bara det att sättet de gör misstag på är mer förvånande", sa han.

Amodei har varit en av de mest högljudda förespråkarna i branschen för AGI. ”Folk försöker alltid hitta en ’övre gräns’ för AI”, säger han. ”Just nu ser vi ingen sådan övre gräns.”

Anthropics VD är en av förespråkarna för "AI-optimism". Foto: Anthropic.

Alla håller dock inte med. Google DeepMinds VD Demis Hassabis påpekade denna vecka att nuvarande AI-modeller är "fulla av luckor" och till och med missförstår vissa grundläggande frågor.

Det finns också tecken på att vissa nyare modeller har en högre förekomst av problem när det gäller komplexa inferensuppgifter. OpenAIs o3- och o4-mini-versioner har en ökad förekomst av hallucinationer jämfört med tidigare inferensmodeller. Inte ens OpenAI självt förstår varför.

Amodei nämnde också att människor ofta gör misstag, så han sa att bara för att AI gör misstag betyder det inte att den är "inte smart nog". Den antropiske ledaren medgav dock också att de lätt kan orsaka problem när de ger ut falsk information med extremt hög tillförlitlighet.

Amodeis kommentarer har väckt debatt i AI-gemenskapen om de verkliga förmågorna hos nuvarande modeller. Vissa experter är överens om att AI gör betydande framsteg när det gäller att minska illusioner. Andra varnar för de potentiella riskerna med AI:s övertro på felaktig information.

Diskussionen speglar en stor utmaning som AI-branschen står inför. Företag strävar efter att utveckla system som är både intelligenta och pålitliga, och som kan hantera osäkerhet i sina svar.

Källa: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html