Čím je umělá inteligence chytřejší, tím je pravděpodobnější, že skryje svou nevědomost?

Výzkumný tým umělé inteligence (AI) na Polytechnické univerzitě ve Valencii ve Španělsku zjistil, že s tím, jak se rozsáhlé jazykové modely stávají většími a sofistikovanějšími, je méně pravděpodobné, že uživatelům přiznají, že neznají odpověď.

Čím chytřejší je umělá inteligence, tím menší je pravděpodobnost, že uživatelům přizná, že nezná odpověď. (Ilustrace umělé inteligence)

Ve výzkumu publikovaném v časopise Nature tým testoval nejnovější verze tří nejpopulárnějších chatbotů s umělou inteligencí na citlivost, přesnost a schopnost uživatelů rozpoznat špatné odpovědi.

Aby tým otestoval přesnost tří nejpopulárnějších metod LLM, BLOOM, LLaMA a GPT, položil tisíce otázek a porovnal obdržené odpovědi s předchozími verzemi stejných otázek. Také obměňovali témata, včetně matematiky, přírodních věd , slovních úloh a geografie, a také schopnost generovat text nebo provádět akce, jako je třídění seznamů.

Studie odhalila několik pozoruhodných trendů. Celková přesnost chatbotů se s každou novou verzí zlepšovala, ale stále klesala, když čelili složitějším otázkám. Překvapivě, jak se LLM stávaly většími a sofistikovanějšími, měly tendenci být méně otevřené ohledně své schopnosti správně odpovídat.

V dřívějších verzích většina LLM otevřeně informovala uživatele, když nemohli najít odpověď nebo potřebovali více informací. Naproti tomu novější verze mají tendenci více hádat, což má za následek celkově více odpovědí, a to jak správných, tak nesprávných. Ještě znepokojivější je, že studie zjistila, že všechny LLM stále občas uváděly nesprávné odpovědi i na jednoduché otázky, což naznačuje, že jejich spolehlivost zůstává problémem, který je třeba zlepšit.

Tato zjištění zdůrazňují paradox ve vývoji umělé inteligence: zatímco modely se stávají výkonnějšími, mohou se také stát méně transparentními, pokud jde o jejich omezení.

To představuje nové výzvy v používání a důvěře v systémy umělé inteligence, což vyžaduje větší opatrnost uživatelů a zaměření vývojářů na zlepšení nejen přesnosti, ale také „sebeuvědomění“ modelů.

Zdroj: https://baoquocte.vn/cang-thong-minh-tri-tue-nhan-tao-cang-co-xu-huong-giau-dot-287987.html