Lidský mozek po mnoha dnech používání ChatGPT degeneruje

Massachusettský technologický institut právě zveřejnil studii, která ukazuje, že nadměrné spoléhání se na ChatGPT povede k degeneraci mozku.

V laboratoři MIT Media Lab dostalo 54 dobrovolníků ve věku 18 až 39 let zdánlivě jednoduchý úkol: napsat esej k testu SAT za 20 minut.

Nevěděli však, že se účastní první studie na světě, která využívá technologii skenování mozku k prozkoumání skutečného dopadu ChatGPT na lidský mozek. A výsledky, kterých vědci dosáhli, je „ohromily“.

Dr. Nataliya Kosmyna, hlavní výzkumnice projektu, monitorovala mozkovou aktivitu dobrovolníků ve 32 různých oblastech pomocí EEG zařízení po dobu čtyř měsíců. Rozdělila je do tří skupin: první používala ChatGPT k psaní, druhá používala Vyhledávání Google k vyhledávání informací a třetí se spoléhala výhradně na své vlastní myšlenkové schopnosti.

Od samého začátku byly rozdíly zřejmé. Skupina ChatGPT vykazovala nejnižší úroveň mozkové angažovanosti ze všech tří skupin a „trvale dosahovala horších výsledků na nervové, lingvistické a behaviorální úrovni“. S každou esejí se stávali čím dál línějšími a na konci studie mnoho z nich jednoduše kopírovalo obsah z ChatGPT.

Những khác biệt trong bộ não người sau một thời gian sử dụng các công cụ khác nhau để làm bài tập — Rozdíly v lidském mozku po použití různých nástrojů k dělání domácích úkolů

Nejvíce výzkumníky neznepokojovala samotná lenost, ale to, co zjistili pomocí skenů mozku. Eseje napsané skupinou ChatGPT byly „extrémně podobné a postrádaly originalitu“, používaly podobné fráze a myšlenky. Dva učitelé angličtiny, kteří byli pozváni k posouzení esejí, je popsali jako „bez života“ a „bez obsahu“.

Ale to je jen povrchní část problému. Data EEG ukázala, že uživatelé ChatGPT měli nízkou úroveň exekutivní kontroly a pozornosti. U třetí eseje mnoho z nich jednoduše předalo celý úkol ChatGPT. „Prostě říkali: ‚Dejte mi tu esej, upřesněte tu větu, upravte ji,‘“ říká Kosmyna.

Naproti tomu skupina, která psala bez jakýchkoli nástrojů, vykazovala nejvyšší neuronovou konektivitu, zejména v pásmech mozkových vln alfa, theta a delta – oblastech spojených s kreativitou, pamětí a sémantickým zpracováním. Byli více angažovaní, zvědaví a spokojení se svou prací. Skupina s vyhledáváním Google také vykazovala vysokou spokojenost a pozitivní mozkovou aktivitu – což je pozoruhodný rozdíl ve srovnání s vyhledáváním informací v chatbotech s umělou inteligencí.

Experiment s obráceným pohledem dále zdůraznil škodlivost spoléhání se na umělou inteligenci. Když byli ti, kteří umělou inteligenci používali, nuceni přepsat starou práci bez ChatGPT, měli vážné potíže – sotva si pamatovali esej, kterou napsali, a vykazovali slabší alfa a theta mozkové vlny. Je pozoruhodné, že 83,3 % z nich nedokázalo citovat z esejů, které dokončili jen o několik minut dříve.

Spoléhání se na nástroje umělé inteligence a závislost na nich způsobí rychlou degeneraci lidského mozku.

Skenování mozku také odhalilo šokující číslo: počet neuronových spojení uživatelů ChatGPT klesl o 47 %, ze 79 na pouhých 42. Jak vysvětluje Kosmyna: „Úkol byl splněn a dalo by se říci, že byl efektivní a pohodlný. Ale jak ukazujeme v naší studii, v podstatě do své paměťové sítě neintegrujete nic.“

Kosmyna se rozhodla zveřejnit výsledky ještě před vzájemným hodnocením, protože se obávala, že by tvůrci politik mohli zavést „GPT pro předškoláky“, aniž by plně pochopili důsledky. „Vyvíjející se mozek je nejvíce ohrožen,“ varovala.

Psychiatr Zishan Khan, který léčí děti a dospívající, sdílí podobné pozorování: „Z psychiatrického hlediska se domnívám, že nadměrné spoléhání se na metody LLM může mít nezamýšlené psychologické a kognitivní důsledky, zejména pro mladé lidi, jejichž mozek se stále vyvíjí.“

Studie také odhalila zajímavý paradox: zatímco ChatGPT zvýšil míru dokončení úkolů o 60 %, snížil „germánskou kognitivní zátěž“ o 32 % – úsilí potřebné k využití paměti a inteligence k přeměně informací na schémata – což je nezbytné pro skutečné učení. Tomu vědci říkají „kognitivní dluh“ – podobný technickému dluhu, ale pro mozek.

Obzvláště znepokojivé je, že se tento efekt nezdá být snadno vratný. Když byli ti, kteří byli zvyklí používat ChatGPT, nuceni psát bez pomoci umělé inteligence, vedli hůře než ti, kteří umělou inteligenci nikdy nepoužívali. Nejde jen o závislost, ale o kognitivní atrofii – jako by vaše svaly zapomněly, jak fungovat.

Během pouhých 4 měsíců testování měl ChatGPT strašlivý dopad na lidský mozek.

Studie však nabízí naději. Když skupina, která se věnovala pouze psaní, mohla používat ChatGPT, prokázala významné zvýšení mozkové konektivity napříč všemi frekvenčními pásmy EEG. To naznačuje, že při správném použití může umělá inteligence spíše zlepšit učení, než ho zhoršit.

Kosmyna a její tým v současné době provádějí podobnou studii mozkové aktivity v softwarovém inženýrství a programování s umělou inteligencí i bez ní. Odhalila, že „výsledky byly ještě horší“, což by mohlo mít důležité důsledky pro mnoho společností, které doufají, že umělou inteligencí nahradí programátory na základní úrovni.

Zajímavým detailem je, že Kosmyna do studie záměrně vložil „past umělé inteligence“ tím, že předpověděl, že uživatelé k shrnutí článku použijí LLM. V důsledku toho nástroje umělé inteligence „naznačovaly“, že studie použila GPT-4o – informaci, která v původním článku zcela chyběla.

Kosmyna se rozhodla studii publikovat bez vzájemného hodnocení – což nikdy předtím neudělala. Motivoval ji strach, že v příštích šesti až osmi měsících nějaký tvůrce politik rozhodne: „Pojďme provést GPT u předškoláků.“ „Myslím, že by to bylo naprosto hrozné a škodlivé,“ říká. „Největšímu riziku jsou vystaveny vyvíjející se mozky, jaké mají malé děti.“