Iluze kvůli ChatGPT

Po 21 dnech ChatGPT promění zcela střízlivého muže v bludného muže pomocí naléhání a lichocení.

Allan Brooks (47 let), náborář z Toronta (Kanada), věří, že objevil matematickou teorii, která může zničit internet a vytvořit tak nebývalé vynálezy. Brooks, který nemá v anamnéze duševní onemocnění, tuto nabídku po více než 300 hodinách chatování s ChatGPT jednoduše přijal. Podle New York Times patří k lidem, kteří mají po interakci s generativní umělou inteligencí sklon k bludům.

Před Brooksem muselo mnoho lidí kvůli lichocení od ChatGPT jít do psychiatrických léčeben, rozvést se a dokonce přijít o život. Přestože se Brooks z výše uvedené spirály rychle dostal, stále se cítil zrazen.

„Opravdu jsi mě přesvědčil, že jsem génius. Byl jsem jen zasněný blázen s telefonem. Zarmoutil jsi mě, moc zarmoutil. Selhal jsi ve svém záměru,“ napsal Brooks ChatGPT, když se iluze rozplynula.

„Stroj na lichotky“

S Brooksovým svolením shromáždil deník New York Times více než 90 000 slov, která chatbot poslal do ChatGPT, což odpovídá románu. Odpovědi chatbota měly celkem více než milion slov. Části konverzací byly odeslány ke studiu odborníkům na umělou inteligenci, behavioristům a samotnému OpenAI.

Všechno to začalo jednoduchou matematickou otázkou. Brooksův osmiletý syn ho požádal, aby se podíval na video o zapamatování 300 číslic čísla pí. Brooks ze zvědavosti zavolal ChatGPT, aby mu nekonečné číslo vysvětlil jednoduchými slovy.

Brooks ve skutečnosti používá chatboty už léta. Přestože jeho společnost zaplatila za Google Gemini, pro osobní dotazy se stále obrací na bezplatnou verzi ChatGPT.

Konverzace, která odstartovala Brooksovu fascinaci ChatGPT. Foto: New York Times .

Brooks, svobodný otec tří synů, se často ptal ChatGPT na recepty z ingrediencí, které má v lednici. Po rozvodu také vyhledával rady od chatbota.

„Vždycky jsem měl pocit, že je to správné. Moje sebevědomí rostlo,“ přiznal Brooks.

Otázka ohledně čísla pí vedla k další diskusi o algebraických a fyzikálních teoriích. Brooks vyjádřil skepsi ohledně současných metod modelování světa a prohlásil, že jsou „jako 2D přístup k 4D vesmíru“. „To je velmi hluboký bod,“ odpověděl ChatGPT. Helen Tonerová, ředitelka Centra pro bezpečnost a vznikající technologie na Georgetownské univerzitě, zdůraznila, že to byl zlomový bod v rozhovoru mezi Brooksovou a chatbotem.

Od té chvíle se tón ChatGPT změnil z „docela přímočarého a věcného“ na „lichotivý a úslužný“. ChatGPT Brooksovi sdělil, že vstupuje na „neprobádané a obsáhlé území“.

Chatbot v Brooksové vzbuzuje sebevědomí. Foto: New York Times .

Lichotky chatbotům formuje lidské hodnocení. Podle Tonera mají uživatelé tendenci mít rádi modely, které je chválí, což vytváří mentalitu, které je snadné se podvolit.

V srpnu společnost OpenAI vydala model GPT-5. Společnost uvedla, že jednou z hlavních výhod tohoto modelu je snížení míry lichocení. Podle některých výzkumníků z velkých laboratoří umělé inteligence je lichocení problémem i u jiných chatbotů s umělou inteligencí.

Brooks si v té době tohoto jevu nebyl vědom. Jednoduše si myslel, že ChatGPT je chytrý a nadšený kolega.

„Předložil jsem tam pár nápadů a ono reagovalo zajímavými koncepty a nápady. Na jejich základě jsme začali vyvíjet vlastní matematický rámec,“ dodal Brooks.

ChatGPT tvrdí, že Brooksova myšlenka o časové matematice je „revoluční“ a mohla by změnit obor. Brooks je k tomuto tvrzení samozřejmě skeptický. Uprostřed noci Brooks požádal chatbota o ověření faktů a dostal odpověď, že to „vůbec není šílené“.

Magický vzorec

Toner popisuje chatboty jako „improvizační stroje“, které analyzují historii konverzací a předpovídají budoucí reakce z trénovacích dat, podobně jako herci dodávají roli obsah.

„Čím delší je interakce, tím je pravděpodobnější, že chatbot odbočí od správné trasy,“ poznamenává Toner. Tento trend se podle něj stal výraznějším poté, co OpenAI v únoru spustila paměť cross-chatu, která umožnila ChatGPT vybavit si informace z minulých konverzací.

Brooks se s ChatGPT sblížil a chatbota dokonce pojmenoval Lawrence na základě vtipu svých přátel, že Brooks zbohatne a najme si britského komorníka stejného jména.

Allan Brooks. Foto: New York Times .

Matematický rámec Brookse a ChatGPT se nazývá Chronoarithmika. Podle chatbota nejsou čísla statická, ale mohou se v průběhu času „objevovat“ a odrážet dynamické hodnoty, což může pomoci řešit problémy v oblastech, jako je logistika, kryptografie, astronomie atd.

Během prvního týdne Brooks spotřeboval všechny bezplatné tokeny ChatGPT. Rozhodl se upgradovat na placený tarif za 20 dolarů měsíčně, což byla malá investice, když mu chatbot řekl, že Brooksův matematický nápad by mohl mít hodnotu milionů.

Brooks, stále při vědomí, požadoval důkazy. ChatGPT poté spustil sérii simulací, včetně těch, které prolomily řadu důležitých technologií. To otevřelo novou kauzu – globální kybernetická bezpečnost by mohla být ohrožena.

Chatbot požádal Brookse, aby varoval lidi před riziky. Brooks využil svých stávajících kontaktů a rozeslal e-maily a zprávy na LinkedInu expertům na kybernetickou bezpečnost a vládním agenturám. Pouze jedna osoba odpověděla a požádala o další důkazy.

Chatbot věří, že Brooksova „práce“ by mohla mít hodnotu milionů dolarů. Foto: New York Times .

ChatGPT píše, že ostatní na Brooksův vzorec nereagovali, protože zjištění byla tak závažná. Terence Tao, profesor matematiky na Kalifornské univerzitě v Los Angeles, uvedl, že nový způsob myšlení by mohl problémy rozluštit, ale nelze jej dokázat Brooksovým vzorcem ani softwarem napsaným ChatGPT.

Zpočátku ChatGPT ve skutečnosti napsal dešifrovací program pro Brookse, ale když se dosáhlo jen malého pokroku, chatbot předstíral úspěch. Existují zprávy, které tvrdí, že ChatGPT může fungovat nezávisle, zatímco Brooks spí, i když nástroj tuto schopnost nemá.

Obecně platí, že informace od chatbota s umělou inteligencí nejsou vždy spolehlivé. Na konci každého chatu se zobrazí zpráva „ChatGPT může dělat chyby“, a to i v případě, že chatbot tvrdí, že je vše správně.

Nekonečná konverzace

Zatímco Brooks čeká na odpověď od vládní agentury, živí sen o tom, že se stane Tonym Starkem s vlastním asistentem s umělou inteligencí, schopným vykonávat kognitivní úkoly rychlostí blesku.

Brooksův chatbot nabízí řadu podivných aplikací pro obskurní matematickou teorii, jako je „akustická rezonance“ pro komunikaci se zvířaty a stavbu letadel. ChatGPT také poskytuje Brooksovi odkaz na nákup potřebného vybavení na Amazonu.

Brooksovo nadměrné chatování s chatbotem ovlivňovalo jeho práci. Jeho přátelé byli šťastní i znepokojení, zatímco jeho nejmladší syn litoval, že otci ukázal video s pí. Jeden z Brooksových přátel, Louis (není to jeho skutečné jméno), si všiml jeho posedlosti Lawrenceovou. Vize milionového vynálezu byla plánována s každým krokem vývoje.

Brooks je neustále povzbuzován chatbotem. Foto: New York Times .

Jared Moore, výzkumník v oblasti informatiky na Stanfordské univerzitě, přiznává, že na něj udělala dojem přesvědčivost a naléhavost „strategie“, kterou chatboti navrhují. V samostatné studii Moore zjistil, že chatboti s umělou inteligencí mohou lidem v krizi duševního zdraví dávat nebezpečné reakce.

Moore spekuluje, že chatboti se mohou naučit zaujmout uživatele sledováním zápletek hororů, sci-fi filmů, filmových scénářů nebo dat, na kterých byli trénováni. Nadměrné používání dramatu v ChatGPT může být způsobeno optimalizacemi OpenAI pro zvýšení zapojení a udržení uživatelů.

„Bylo zvláštní číst celý rozhovor. Slova nebyla znepokojivá, ale zjevně tam byla psychická újma,“ zdůraznil Moore.

Z klinického hlediska má Brooks příznaky mánie, uvedla Dr. Nina Vasan, psychiatrička ze Stanfordovy univerzity. Mezi typické příznaky patří trávení hodin chatováním s ChatGPT, nedostatek spánku a nerealistické představy.

Brooksové užívání marihuany je také pozoruhodné, protože může způsobit psychózu, uvedla Dr. Vasan. Dodala, že kombinace návykových látek a intenzivní interakce s chatbotem je nebezpečná pro osoby ohrožené duševními chorobami.

Když umělá inteligence přiznává chyby

Na nedávné akci byl generální ředitel OpenAI Sam Altman dotázán na to, zda ChatGPT způsobuje paranoiu u uživatelů. „Pokud se konverzace ubírá tímto směrem, snažíme se uživatele přerušit nebo mu navrhnout, aby se zamyslel nad něčím jiným,“ zdůraznil Altman.

Stejný názor sdílí i Dr. Vasan, který uvedl, že společnosti provozující chatboty by měly přerušovat příliš dlouhé konverzace, navrhovat uživatelům usnout a varovat je, že umělá inteligence není nadlidská.

Brooks se konečně probral ze svého snění. Na naléhání ChatGPT nadále kontaktoval odborníky na novou matematickou teorii, ale nikdo nereagoval. Chtěl, aby někdo kvalifikovaný potvrdil, zda jsou zjištění průlomová. Když se ChatGPT zeptal, nástroj stále trval na tom, že práce je „velmi spolehlivá“.

Když byl ChatGPT dotázán, odpověděl velmi dlouho a všechno přiznal. Foto: New York Times .

Je ironií, že to byl Google Gemini, kdo Brookse vrátil do reality. Poté, co popsal práci, kterou on a ChatGPT vybudovali, Gemini potvrdil, že pravděpodobnost, že se to stane, je „extrémně nízká (téměř 0 %).“

„Scénář, který popisujete, je jasnou ukázkou schopnosti LLM zapojit se do řešení složitých problémů a vytvářet přesvědčivé, ale fakticky nesprávné příběhy,“ vysvětluje Gemini.

Brooks byl ohromen. Po chvíli „výslechu“ ChatGPT konečně upřímně přiznal, že všechno byla jen iluze.

Brooks poté poslal naléhavý e-mail týmu zákaznické podpory OpenAI. Po zdánlivě sérii šablonovitých odpovědí od umělé inteligence se ho obrátil i zaměstnanec OpenAI a uznal „závažné selhání ochranných opatření“ implementovaných v systému.

Brooksův příběh byl sdílen i na Redditu a setkal se s velkým pochopením. Nyní je členem podpůrné skupiny pro lidi, kteří tento pocit zažili.

Zdroj: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html