AI hallucineert, maar mensen lijden er meer onder

Dario Amodei, CEO van Antropic, doet controversiële uitspraken over de 'hallucinatie'-capaciteiten van huidige AI vergeleken met mensen.

De onlangs uitgebrachte Claude 4 van Anthropic is slimmer, maar nog steeds hallucinerend. Foto: Anthropic .

Tijdens Anthropics eerste ontwikkelaarsevenement in San Francisco zei CEO Dario Amodei dat huidige AI-modellen minder vaak "hallucinaties" kunnen creëren dan mensen. "Hallucinaties" worden hier opgevat als het fenomeen waarbij AI fictieve content creëert, maar deze als echt presenteert.

Amodei benadrukte dat het feit dat AI hallucineert, Anthropic's doel om AGI (Artificial General Intelligence) te bereiken niet in de weg staat. "Het hangt af van je metingen, maar ik denk dat de frequentie van hallucinaties in AI-modellen waarschijnlijk lager ligt dan bij mensen. Alleen is de manier waarop ze fouten maken verrassender," zei hij.

Amodei is een van de meest uitgesproken voorstanders van AI in de industrie. "Mensen proberen altijd een 'bovengrens' voor AI te vinden", zegt hij. "Op dit moment zien we zo'n bovengrens niet."

Anthropic CEO is een van de voorstanders van "AI-optimisme". Foto: Anthropic.

Niet iedereen is het daar echter mee eens. Demis Hassabis, CEO van Google DeepMind, wees er deze week op dat huidige AI-modellen "vol gaten" zitten en zelfs enkele fundamentele vragen fout beantwoorden.

Er zijn ook tekenen dat sommige nieuwere modellen vaker problemen opleveren bij complexe inferentietaken. De o3- en o4-mini-versies van OpenAI vertonen een hogere incidentie van hallucinaties in vergelijking met eerdere inferentiemodellen. Zelfs OpenAI zelf begrijpt niet waarom.

Amodei merkte ook op dat mensen vaak fouten maken, dus zei hij dat het feit dat AI fouten maakt, niet betekent dat het "niet slim genoeg" is. De leider van de Antropische beweging gaf echter ook toe dat ze gemakkelijk problemen kunnen veroorzaken wanneer ze met een extreem hoge betrouwbaarheid onjuiste informatie verspreiden.

De opmerkingen van Amodei hebben binnen de AI-gemeenschap een debat aangewakkerd over de werkelijke mogelijkheden van huidige modellen. Sommige experts zijn het erover eens dat AI aanzienlijke vooruitgang boekt in het verminderen van illusies. Anderen waarschuwen voor de potentiële risico's van een overmatig vertrouwen van AI in onjuiste informatie.

De discussie weerspiegelt een grote uitdaging voor de AI-industrie. Bedrijven willen systemen ontwikkelen die zowel intelligent als betrouwbaar zijn en die in hun reacties op onzekerheid kunnen inspelen.

Bron: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html