AI hallusinerer, men mennesker lider mer

Anthropics nylig utgitte Claude 4 er smartere, men fortsatt hallusinatorisk. Foto: Anthropic .

På Anthropics første utviklerarrangement i San Francisco sa administrerende direktør Dario Amodei at nåværende AI-modeller kan skape «hallusinasjoner» i lavere grad enn mennesker. «Hallusinasjoner» forstås her som fenomenet der AI skaper fiktivt innhold, men presenterer det som ekte.

Amodei understreket at det faktum at kunstig intelligens hallusinasjoner ikke hindrer Anthropics mål om å oppnå AGI (kunstig generell intelligens). «Det avhenger av målingen din, men jeg tror hyppigheten av hallusinasjoner i kunstig intelligens-modeller sannsynligvis er lavere enn hos mennesker, det er bare det at måten de gjør feil på er mer overraskende», sa han.

Amodei har vært en av de mest høylytte forkjemperne i bransjen for AGI. «Folk prøver alltid å finne en 'øvre grense' for AI», sier han. «Akkurat nå ser vi ingen slik øvre grense.»

Anthropics administrerende direktør er en av forkjemperne for «AI-optimisme». Foto: Anthropic.

Ikke alle er enige. Google DeepMind-sjef Demis Hassabis påpekte denne uken at dagens AI-modeller er «fulle av hull», og at de til og med tar feil av noen grunnleggende spørsmål.

Det finnes også tegn på at noen nyere modeller har en høyere forekomst av problemer når det gjelder komplekse inferensoppgaver. OpenAIs o3- og o4-mini-versjoner har en økt forekomst av hallusinasjoner sammenlignet med tidligere inferensmodeller. Selv OpenAI forstår ikke hvorfor.

Amodei nevnte også at mennesker ofte gjør feil, så han sa at bare fordi AI gjør feil, betyr det ikke at den er «ikke smart nok». Den antropiske lederen innrømmet imidlertid også at de lett kan forårsake problemer når de gir ut falsk informasjon med ekstremt høy pålitelighet.

Amodeis bemerkninger har skapt debatt i AI-miljøet om de sanne egenskapene til nåværende modeller. Noen eksperter er enige om at AI gjør betydelige fremskritt når det gjelder å redusere illusjoner. Andre advarer om de potensielle risikoene for at AI har overdreven tillit til unøyaktig informasjon.

Diskusjonen gjenspeiler en stor utfordring AI-bransjen står overfor. Bedrifter ønsker å utvikle systemer som er både intelligente og pålitelige, og som er i stand til å håndtere usikkerhet i sine svar.

Kilde: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html