Cu cât inteligența artificială este mai inteligentă, cu atât este mai probabil să își ascundă ignoranța?

O echipă de cercetare în domeniul inteligenței artificiale (IA) de la Universitatea Politehnică din Valencia, Spania, a descoperit că, pe măsură ce modelele lingvistice mari devin mai mari și mai sofisticate, acestea tind să fie mai puțin predispuse să recunoască utilizatorilor că nu știu răspunsul.

Cu cât este mai inteligentă inteligența artificială, cu atât este mai puțin probabil să recunoască utilizatorilor că nu știe răspunsul. (Ilustrație cu inteligență artificială)

Într-o cercetare publicată în revista Nature , echipa a testat cele mai recente versiuni a trei dintre cei mai populari chatboți cu inteligență artificială în ceea ce privește receptivitatea, acuratețea și capacitatea utilizatorilor de a identifica răspunsurile greșite.

Pentru a testa acuratețea celor mai populare trei masterate LLM, BLOOM, LLaMA și GPT, echipa a pus mii de întrebări și a comparat răspunsurile primite cu versiunile anterioare ale acelorași întrebări. De asemenea, au variat subiectele, inclusiv matematică, științe , probleme de cuvinte și geografie, precum și capacitatea de a genera text sau de a efectua acțiuni precum sortarea listelor.

Studiul a relevat câteva tendințe notabile. Precizia generală a chatboților s-a îmbunătățit cu fiecare versiune nouă, dar a scăzut în continuare atunci când s-au confruntat cu întrebări mai dificile. În mod surprinzător, pe măsură ce LLM-urile au devenit mai mari și mai sofisticate, au avut tendința de a fi mai puțin deschiși în ceea ce privește capacitatea lor de a răspunde corect.

În versiunile anterioare, majoritatea LLM-urilor informau deschis utilizatorii atunci când nu găseau un răspuns sau aveau nevoie de mai multe informații. În schimb, versiunile mai noi tind să ghicească mai multe, rezultând în mai multe răspunsuri în general, atât corecte, cât și incorecte. Mai îngrijorător este faptul că studiul a constatat că toți LLM-urile încă ofereau ocazional răspunsuri greșite chiar și la întrebări ușoare, ceea ce sugerează că fiabilitatea lor rămâne o problemă care necesită îmbunătățiri.

Aceste descoperiri evidențiază un paradox în evoluția inteligenței artificiale: deși modelele devin mai puternice, ele pot deveni și mai puțin transparente în ceea ce privește limitele lor.

Acest lucru prezintă noi provocări în utilizarea și încrederea în sistemele de inteligență artificială, obligând utilizatorii să fie mai precauți și dezvoltatorii să se concentreze pe îmbunătățirea nu numai a preciziei, ci și a „conștiinței de sine” a modelelor.

Sursă: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html