A mesterséges intelligencia hallucinál, de az emberek jobban szenvednek

Dario Amodei, az Anthropic vezérigazgatója ellentmondásos megjegyzéseket tesz a jelenlegi mesterséges intelligencia "hallucinációs" képességeiről az emberekhez képest.

Az Anthropic újonnan megjelent Claude 4-e okosabb, de még mindig hallucinációs. Fotó: Anthropic .

Az Anthropic első fejlesztői rendezvényén San Franciscóban Dario Amodei vezérigazgató elmondta, hogy a jelenlegi mesterséges intelligencia modellek alacsonyabb ütemben képesek „hallucinációkat” létrehozni, mint az emberek. A „hallucinációk” itt azt a jelenséget jelentik, amikor a mesterséges intelligencia kitalált tartalmat hoz létre, de azt valóságosnak mutatja be.

Amodei hangsúlyozta, hogy az a tény, hogy a mesterséges intelligencia hallucinál, nem akadályozza az Anthropic célját, az AGI (mesterséges általános intelligencia) elérését. „A méréstől függ, de szerintem a hallucinációk gyakorisága a mesterséges intelligencia modellekben valószínűleg alacsonyabb, mint az embereknél, csak a hibák elkövetésének módja meglepőbb” – mondta.

Amodei az iparág egyik leghangosabb szószólója az AGI-nak. „Az emberek mindig is próbálnak egy „felső határt” találni a mesterséges intelligencia számára” – mondja. „Jelenleg nem látunk ilyen felső határt.”

Az Anthropic vezérigazgatója az „AI-optimizmus” egyik szószólója. Fotó: Anthropic.

Nem mindenki ért ezzel egyet. A Google DeepMind vezérigazgatója, Demis Hassabis ezen a héten rámutatott, hogy a jelenlegi MI-modellek „tele vannak lyukakkal”, sőt, néhány alapvető kérdést is rosszul válaszolnak meg.

Vannak arra utaló jelek is, hogy egyes újabb modelleknél nagyobb a problémák előfordulása az összetett következtetési feladatok során. Az OpenAI o3 és o4-mini verzióinál a hallucinációk előfordulása nagyobb a korábbi következtetési modellekhez képest. Még maga az OpenAI sem érti, miért.

Amodei azt is megemlítette, hogy az emberek gyakran hibáznak, így azt mondta, hogy csak azért, mert a mesterséges intelligencia hibázik, nem jelenti azt, hogy „nem elég okos”. Az Anthropic vezetője azonban azt is elismerte, hogy könnyen problémákat okozhatnak, amikor rendkívül nagy megbízhatósággal adnak ki hamis információkat.

Amodei megjegyzései vitát váltottak ki a mesterséges intelligencia közösségében a jelenlegi modellek valódi képességeiről. Egyes szakértők egyetértenek abban, hogy a mesterséges intelligencia jelentős előrelépést tesz az illúziók csökkentésében. Mások a pontatlan információkba vetett túlzott önbizalom lehetséges kockázataira figyelmeztetnek.

A vita a mesterséges intelligencia iparág előtt álló egyik komoly kihívást tükrözi. A vállalatok olyan rendszereket szeretnének fejleszteni, amelyek intelligensek és megbízhatóak is, és képesek kezelni a bizonytalanságot a válaszaikban.

Forrás: https://znews.vn/ai-ao-giac-nhung-con-nguoi-bi-con-nhieu-hon-post1557486.html