Riziko „degenerace myšlení“ v důsledku zneužití umělé inteligence.

DNVN - Nedávné studie bijí na poplach ohledně nepředvídatelných důsledků rostoucí závislosti lidstva na umělé inteligenci (AI), zejména na velkých jazykových modelech (LLM), jako je ChatGPT.

Ilustrativní obrázek.

Umělá inteligence je přítomna téměř ve všech aspektech lidského života, od každodenních činností přes výrobu, vzdělávání , výzkum až po uměleckou tvorbu. Umělá inteligence pomáhá lidem optimalizovat provoz, zvyšovat efektivitu a snižovat pracovní sílu. Exploze umělé inteligence demonstrovala neustálý růst aplikací strojového učení a technologií velkých dat, což posouvá umělou inteligenci na novou úroveň vývoje.

Navzdory těmto obrovským výhodám hrozí, že umělá inteligence promění samotný proces tvorby znalostí v uzavřenou smyčku, ohrozí inovace a způsobí „degeneraci“ lidského myšlení.

Podle odborníků může okamžité pohodlí plynoucí z používání umělé inteligence přijít na úkor dlouhodobých intelektuálních zdrojů.

Pokles mozkových funkcí a „kognitivní dluh“

Čtyřměsíční studie Massachusettského technologického institutu (MIT) osvětlila hluboké dopady nadměrného používání umělé inteligence na lidský mozek. Studie, která sledovala 54 účastníků eseje, zjistila, že spoléhání se na nástroje umělé inteligence může zhoršit funkci mozku a kritické myšlení.

Pomocí technologie elektroencefalografie (EEG) vědci zaznamenávali mozkovou aktivitu účastníků. Výsledky byly ohromující: Skupina používající nástroj umělé inteligence vykazovala výrazně odlišné nervové vzorce ve srovnání se skupinou, která psala pouze v duchu. Tato skupina vykazovala až o 55 % méně nervových spojení než skupina používající pouze mozek, zejména v oblastech zodpovědných za hluboké myšlení a formování paměti.

Vědci tento jev nazývají „kognitivní dluh“. Podobně jako finanční dluh, který nám umožňuje užívat si současných výhod, ale později neseme náklady, kognitivní dluh vzniká, když delegujeme intelektuální úsilí na externí systémy, což způsobuje atrofii našich mentálních svalů v důsledku nepoužívání. Pokud by byla umělá inteligence zneužita, mohla by z lidí udělat pasivní konzumenty, kteří ztratí schopnost samostatně myslet.

Důsledky snížených kognitivních funkcí jsou jasné:

Porucha paměti : V prvním sezení studie MIT nebylo až 83 % uživatelů umělé inteligence schopno citovat vlastní text a nikdo neposkytl přesnou citaci. I po několika sezeních se mnozí s tímto základním úkolem stále potýkali.

Oslabení kritického myšlení : Používání umělé inteligence vede k „povrchní angažovanosti“ a oslabuje kritické myšlení, což může vést k prokrastinaci a lenosti.

Snížená mozková aktivita : Jedinci, kteří psali eseje s pomocí umělé inteligence, aktivovali výrazně méně mozkové aktivity, přičemž oblasti související s pamětí, kritickým myšlením a výkonnými funkcemi vykazovaly prudký pokles.

Krize tvorby znalostí a „kolaps modelu“

Problém s LLM nespočívá v jejich schopnostech syntézy, ale v tom, že vědí pouze, jak recyklovat to, co již existuje. Tyto systémy negenerují nové znalosti; primárně využívají existující data a dále je distribuují.

Na rozdíl od lidí, kteří neustále hledají nové směry z různých důvodů, jako jsou peníze, sláva, zvědavost nebo touha po získávání znalostí, umělá inteligence nedokáže generovat „novoty“. Jakmile umělá inteligence dokáže odpovědět na téměř jakoukoli složitou otázku během několika sekund, odměna za lidskou kreativitu postupně zmizí.

Tuto ztrátu dynamiky demonstroval případ Stack Overflow, fóra, kde programátoři sdílejí znalosti: za pouhých 6 měsíců od objevení ChatGPT se počet otázek na platformě snížil o více než 25 % a nyní se snížil o 90 %. Jedná se o ztrátu „živoucí znalostní báze“, kde byla každá odpověď ověřována, projednávána a doplňována.

Data z platforem, jako je Stack Overflow, bývala zdrojem pro školení v oblasti nástrojů umělé inteligence. S tím, jak se tento zdroj znalostí vyčerpává, bude umělá inteligence stále častěji opakovat to, co již vytvořila.

Tento jev je známý jako „kolaps modelu“. Výzkumníci varují, že když jsou modely trénovány primárně na datech generovaných samotnou umělou inteligencí, kvalita znalostí se postupně zhoršuje a ztrácí schopnost odrážet rozmanitost a přesnost reálného světa . Profesorka Hannah Li z Kolumbijské univerzity uzavírá: „Celkovým výsledkem je, že se budou zhoršovat. Modely se budou zhoršovat.“

Rizika homogenizace a recyklace znalostí.

Kromě poklesu individuálního povědomí vede zneužívání umělé inteligence také k homogenizaci znalostí. Eseje psané s pomocí umělé inteligence vykazují nápadné podobnosti a odhalují „statisticky homogenní“ vzorce. To vytváří jakousi intelektuální monokulturu, kde jsou rozmanité lidské perspektivy filtrovány skrz stejnou algoritmickou čočku, což potenciálně potlačuje tvůrčí rozmanitost.

Umělá inteligence má tendenci zdůrazňovat běžné vzorce v datech a postupně přehlížet vzácné informace, jedinečné detaily nebo data skrytá ve stínu statistik. Pokud tento trend bude pokračovat, internet, bohaté úložiště informací, riskuje, že se stane zředěným světem, kde se znalosti ztrácejí. Lidstvo může vstoupit do éry „recyklace znalostí“, kde inovace stagnují, protože odměny za nové výtvory se stávají stále více zastřenými.

Umělá inteligence je mocný nástroj, ale vyžaduje strategický přístup. Výzkumníci z MIT objevili povzbudivé znamení: účastníci, kteří si před používáním umělé inteligence vytvořili solidní kognitivní základ, ji dokázali využívat efektivněji, přičemž po jejím zavedení se jim dokonce zvýšila nervová aktivita. Používali umělou inteligenci jako skutečného asistenta, nejen jako podpůrný nástroj.

Lidské poznání se buduje úsilím, zvědavostí a odvahou vydat se do neznáma. Pokud však z umělé inteligence uděláme jedinou „železnici“, riskujeme, že se dostaneme do začarovaného kruhu, kde lidé i stroje pouze opakují to, co již bylo uděláno.

Hien Thao

Zdroj: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291