Riziko „mentální degenerace“ v důsledku zneužívání umělé inteligence

Ilustrační fotografie.

Umělá inteligence je přítomna téměř ve všech aspektech lidského života, od každodenního života přes výrobu, vzdělávání , výzkum až po uměleckou tvorbu. Umělá inteligence pomáhá lidem optimalizovat jejich činnosti, zvyšovat produktivitu a snižovat lidské zdroje. Exploze umělé inteligence ukazuje neustálý růst aplikací strojového učení a technologií velkých dat, což posouvá umělou inteligenci na novou úroveň vývoje.

Navzdory těmto velkým výhodám hrozí, že umělá inteligence promění proces tvorby znalostí v uzavřenou smyčku, což ohrožuje kreativitu a způsobuje „degeneraci“ lidského myšlení.

Odborníci tvrdí, že okamžité pohodlí používání umělé inteligence může být za cenu dlouhodobých intelektuálních nákladů.

Mozková dysfunkce a „kognitivní dluh“

Čtyřměsíční studie Massachusettského technologického institutu (MIT) osvětlila hluboké dopady nadměrného používání umělé inteligence na lidský mozek. Studie, která sledovala 54 účastníků psaní esejí, zjistila, že spoléhání se na nástroje umělé inteligence může zhoršit funkci mozku a kritické myšlení.

Pomocí technologie elektroencefalografie (EEG) vědci zaznamenávali mozkovou aktivitu účastníků. Výsledky byly pozoruhodné: Skupina používající nástroj umělé inteligence vykazovala výrazně odlišné nervové vzorce než skupina, která psala pouze myslí. Tato skupina vykazovala až o 55 % méně nervových spojení než skupina, která psala pouze myslí, zejména v oblastech zodpovědných za hluboké myšlení a formování paměti.

Vědci tento jev nazývají „kognitivní dluh“. Podobně jako finanční dluh, který nám umožňuje nyní využívat výhod, ale náklady platit později, vzniká kognitivní dluh, když outsourcujeme svou mentální činnost externím systémům, což způsobuje atrofii našich mentálních svalů v důsledku nepoužívání. Pokud by byla umělá inteligence nadužívána, mohla by z lidí udělat pasivní konzumenty, kteří by ztratili schopnost samostatně myslet.

Důsledky snížené kognitivní výkonnosti jsou jasné:

Porucha paměti : V prvním sezení studie MIT nebylo 83 % uživatelů umělé inteligence schopno citovat vlastní texty a nikdo nebyl schopen uvést přesné citace. I po několika sezeních se mnoho z nich s tímto základním úkolem stále potýkalo.

Oslabené kritické myšlení : Používání umělé inteligence vede k „povrchní angažovanosti“ a oslabuje kritické myšlení, což může podporovat prokrastinaci a „lenost“.

Snížená mozková aktivita : Ti, kteří psali své eseje s pomocí umělé inteligence, měli výrazně nižší mozkovou aktivitu, přičemž oblasti související s pamětí, kritickým myšlením a výkonnými funkcemi byly výrazně sníženy.

Krize tvorby znalostí a „kolaps paradigmatu“

Problém s LLM nespočívá v jejich schopnosti syntetizovat, ale ve schopnosti recyklovat to, co již existuje. Tyto systémy negenerují nové znalosti, ale spíše spotřebovávají stávající data a redistribuují je.

Na rozdíl od lidí, kteří neustále hledají nové směry z mnoha důvodů, jako jsou peníze, sláva, zvědavost nebo touha po získávání znalostí, umělá inteligence nedokáže vytvářet „nové věci“. Jakmile umělá inteligence dokáže odpovědět na téměř jakoukoli složitou otázku během několika sekund, odměna za lidskou kreativitu postupně zmizí.

Tuto ztrátu motivace demonstroval případ Stack Overflow, fóra, kde programátoři sdílejí znalosti: za pouhých 6 měsíců od objevení ChatGPT se počet otázek na platformě snížil o více než 25 % a nyní je to až 90 %. Jedná se o ztrátu „živé znalostní báze“, kde je každá odpověď ověřována, diskutována a doplňována.

Data z platforem, jako je Stack Overflow, se již dlouho používají k trénování nástrojů umělé inteligence. Jak tento zdroj znalostí vysychá, umělá inteligence bude stále častěji opakovat to, co již vytvořila.

Tento jev se nazývá „kolaps modelu“. Výzkumníci varují, že když jsou modely trénovány primárně na datech generovaných samotnou umělou inteligencí, kvalita znalostí se postupně snižuje a ztrácí schopnost odrážet rozmanitost a přesnost reálného světa . „Celkovým výsledkem je, že se zhoršují. Modely se zhoršují,“ uzavírá profesorka Hannah Li z Kolumbijské univerzity.

Riziko homogenizace a recyklace znalostí

Kromě poklesu individuálního poznávání vede zneužívání umělé inteligence také k homogenizaci znalostí. Eseje psané s pomocí umělé inteligence jsou si nápadně podobné, což naznačuje „statisticky homogenní“ vzorce. To vytváří intelektuální monokulturu, kde jsou rozmanité lidské perspektivy filtrovány skrze stejnou algoritmickou čočku, což potenciálně dusí tvůrčí rozmanitost.

Umělá inteligence má tendenci zdůrazňovat běžné vzorce v datech a postupně ignorovat vzácné informace, jedinečné detaily nebo data, která leží ve statistickém stínu. Pokud tento trend bude pokračovat, internet, který je bohatým úložištěm informací, riskuje, že se stane rozmazaným světem, kde se znalosti ředí. Lidstvo by mohlo vstoupit do období „recyklace znalostí“, kdy inovace stagnují, protože odměny za novou tvorbu se stávají stále slabšími.

Umělá inteligence je mocný nástroj, ale vyžaduje strategický přístup. Výzkumníci z MIT zjistili pozitivní signál: účastníci, kteří si před použitím umělé inteligence vytvořili solidní kognitivní základ, ji dokázali používat efektivněji a po seznámení s tímto nástrojem dokonce vykazovali zvýšenou nervovou aktivitu. Umělou inteligenci používali jako skutečného asistenta, nikoli jako podpůrný nástroj.

Lidské poznání je postaveno na úsilí, zvědavosti a odvaze vydat se do neznáma. Pokud se však umělá inteligence stane jedinou „železnicí“, riskujeme, že se ocitneme v začarovaném kruhu, kde jak lidé, tak stroje budou muset opakovat to, co již bylo uděláno.

Hien Thao

Zdroj: https://doanhnghiepvn.vn/cong-nghe/nguy-co-thoai-hoa-tu-duy-vi-lam-dung-ai/20250928033804291

Komentář (0)