Minél okosabb egy mesterséges intelligencia, annál valószínűbb, hogy elrejti a tudatlanságát?

A spanyolországi Valenciai Műszaki Egyetem mesterséges intelligenciával (MI) foglalkozó kutatócsoportja megállapította, hogy ahogy a nagy nyelvi modellek egyre nagyobbak és kifinomultabbak lesznek, egyre kevésbé valószínű, hogy beismerik a felhasználóknak, hogy nem tudják a választ.

Minél okosabb a mesterséges intelligencia, annál kevésbé valószínű, hogy beismeri a felhasználóknak, hogy nem tudja a választ. (MI illusztráció)

A Nature folyóiratban publikált kutatásban a csapat a három legnépszerűbb mesterséges intelligencia alapú chatbot legújabb verzióját tesztelte a válaszadási sebesség, a pontosság és a felhasználók rossz válaszok kiszűrésére való képessége szempontjából.

A három legnépszerűbb LLM, a BLOOM, az LLaMA és a GPT pontosságának teszteléséhez a csapat több ezer kérdést tett fel, és a kapott válaszokat összehasonlította ugyanazon kérdések korábbi verzióival. A témákat is változtatták, beleértve a matematikát, a természettudományokat , a szöveges feladatokat és a földrajzot, valamint a szöveggenerálás vagy olyan műveletek végrehajtásának képességét, mint a listák rendezése.

A tanulmány néhány figyelemre méltó trendet tárt fel. A chatbotok pontossága minden új verzióval javult, de a nehezebb kérdéseknél továbbra is csökkent. Meglepő módon, ahogy az LLM-ek (jogi mesterképzések) nagyobbak és kifinomultabbak lettek, egyre kevésbé voltak nyitottak a helyes válaszadási képességükkel kapcsolatban.

A korábbi verziókban a legtöbb LLM nyíltan tájékoztatta a felhasználókat, ha nem találtak választ, vagy további információra volt szükségük. Ezzel szemben az újabb verziók hajlamosak többet találgatni, ami összességében több választ eredményezett, mind helyeset, mind helytelent. Még aggasztóbb, hogy a tanulmány megállapította, hogy minden LLM esetenként helytelen választ adott még az egyszerű kérdésekre is, ami arra utal, hogy megbízhatóságuk továbbra is egy olyan probléma, amely javításra szorul.

Ezek az eredmények rávilágítanak a mesterséges intelligencia fejlődésének egy paradoxonjára: miközben a modellek egyre erősebbek lesznek, kevésbé átláthatóvá válhatnak a korlátaikat illetően.

Ez új kihívásokat jelent a mesterséges intelligenciarendszerek használatában és bizalmában, ami megköveteli a felhasználóktól az óvatosabb viselkedést, a fejlesztőktől pedig azt, hogy ne csak a modellek pontosságának, hanem az „önismeretének” javítására is összpontosítsanak.

Forrás: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html