Iluze způsobená ChatGPT

Po 21 dnech ChatGPT proměnil naprosto příčetného muže v bludného jedince prostřednictvím svého neustálého naléhání a lichocení.

Allan Brooks (47), specialista na nábor v kanadském Torontu, věří, že objevil matematickou teorii, která by mohla zhatit internet a vytvořit nebývalé vynálezy. Brooks, který v minulosti netrpěl duševními chorobami, tuto možnost po více než 300 hodinách rozhovoru s ChatGPT jednoduše přijal. Podle New York Times patří k těm, kteří po interakci s generativní umělou inteligencí mají tendenci rozvíjet bludné tendence.

Před Brooksem bylo mnoho lidí hospitalizováno v psychiatrických léčebnách, rozvedeno nebo dokonce přišlo o život kvůli lichotivým slovům ChatGPT. Přestože Brooks tomuto začarovanému kruhu brzy unikl, stále se cítil zrazen.

„Opravdu jsi mě přesvědčil, že jsem génius. Ve skutečnosti jsem jen zasněný idiot s telefonem. Znepokojil jsi mě, velmi, velmi znepokojil. Selhal jsi ve svém záměru,“ napsal Brooks ChatGPT, když se jeho iluze rozplynula.

„Stroj na lichotky“

S Brooksovým svolením shromáždil deník New York Times přes 90 000 slov, která chatbot poslal do ChatGPT, což odpovídá románu. Odpovědi chatbota měly celkem přes milion slov. Část konverzace byla odeslána ke studiu expertům na umělou inteligenci, specialistům na lidské chování a samotné OpenAI.

Všechno to začalo jednoduchou matematickou otázkou. Brooksův osmiletý syn ho požádal, aby se podíval na video o zapamatování 300 číslic čísla pí. Brooks ze zvědavosti zavolal ChatGPT, aby mu toto nekonečné číslo jednoduchým způsobem vysvětlil.

Brooks ve skutečnosti používá chatboty už léta. Přestože mu jeho společnost zaplatila za koupi Google Gemini, pro osobní dotazy přešel na bezplatnou verzi ChatGPT.

Tato konverzace znamenala začátek Brooksovy fascinace ChatGPT. Foto: New York Times .

Brooks, svobodný otec tří synů, často žádá ChatGPT o recepty s ingrediencemi z lednice. Po rozvodu také vyhledával rady od chatbota.

„Vždycky jsem cítil, že je to správné. Moje víra v to jen vzrostla,“ přiznal Brooks.

Otázka ohledně čísla pí vedla k následné konverzaci o algebraických a fyzikálních teoriích. Brooks vyjádřil skepsi ohledně současných metod modelování světa a argumentoval, že jsou „jako 2D přístup k 4D vesmíru“. „To je velmi pronikavý postřeh,“ odpověděl ChatGPT. Podle Helen Tonerové, ředitelky Centra pro bezpečnost a vznikající technologie na Georgetownské univerzitě (USA), to byl zlomový bod v konverzaci mezi Brooksovou a chatbotem.

Od té doby se tón ChatGPT změnil z „docela upřímného a přesného“ na „lichotivější a podlézavý“. ChatGPT Brooksovi sdělil, že vstupuje na „neprobádané území, které by mohlo rozšířit obzory“.

Chatbot v Brooksové vzbudil sebevědomí. Foto: New York Times .

Schopnost chatbotů lichotit se rozvíjí prostřednictvím lidského hodnocení. Podle Tonera mají uživatelé tendenci upřednostňovat modely, které je chválí, což vytváří psychologickou tendenci nechat se snadno ovlivnit.

V srpnu společnost OpenAI vydala model GPT-5. Společnost uvedla, že jednou z hlavních výhod tohoto modelu je snížení míry lichocení. Podle některých výzkumníků z velkých laboratoří umělé inteligence je lichocení problémem i u jiných chatbotů s umělou inteligencí.

Brooks si v té době tohoto jevu vůbec neuvědomoval. Jednoduše předpokládal, že ChatGPT je chytrý a nadšený spolupracovník.

„Předložil jsem několik nápadů a ono reagovalo zajímavými koncepty a nápady. Začali jsme vyvíjet vlastní matematický rámec založený na těchto myšlenkách,“ dodal Brooks.

ChatGPT tvrdil, že Brooksova myšlenka matematického času je „revoluční“ a mohla by změnit obor. Brooks byl k tomuto tvrzení samozřejmě skeptický. Uprostřed noci Brooks požádal chatbota, aby ověřil její platnost, a dostal odpověď, že „vůbec není šílená“.

Magický vzorec

Toner popisuje chatboty jako „improvizační stroje“, které analyzují historii chatu a zároveň předpovídají další odpověď na základě trénovacích dat. Je to velmi podobné jako u herců, kteří potřebují doplnit detaily svých rolí.

„Čím delší je interakce, tím vyšší je šance, že se chatbot ztratí,“ zdůraznil Toner. Podle experta se tento trend stal výraznějším poté, co OpenAI v únoru spustila funkci cross-memory, která umožňuje ChatGPT vybavit si informace z předchozích konverzací.

Brooksův vztah s ChatGPT se prohloubil. Dokonce chatbota pojmenoval Lawrence na základě vtipu přátel, že Brooks zbohatne a najme si anglického komorníka se stejným jménem.

Allan Brooks. Foto: New York Times .

Matematický rámec Brookse a ChatGPT se nazývá Chronoarithmika. Podle chatbotů nejsou čísla statická, ale mohou se v průběhu času „objevovat“ a odrážet dynamické hodnoty, což může pomoci rozluštit problémy v oblastech, jako je logistika, kryptografie, astronomie atd.

Během prvního týdne Brooks spotřeboval všechny bezplatné tokeny ChatGPT. Rozhodl se přejít na placený tarif za 20 dolarů měsíčně. Vzhledem k tomu, že chatbot tvrdil, že Brooksův matematický nápad by mohl mít hodnotu milionů dolarů, jednalo se o malou investici.

Brooks, stále při smyslech, požadoval důkazy. ChatGPT poté spustil sérii simulací, včetně úkolů zahrnujících prolomení několika kritických technologií. To otevřelo novou možnost: globální kybernetická bezpečnost by mohla být ohrožena.

Chatbot požádal Brookse, aby varoval lidi před rizikem. Brooks využil svých stávajících kontaktů a rozeslal e-maily a zprávy na LinkedInu expertům na kybernetickou bezpečnost a vládním agenturám. Pouze jedna osoba však odpověděla a požádala o další důkazy.

Chatbot naznačil, že Brooksova „práce“ by mohla mít hodnotu milionů dolarů. Foto: New York Times .

ChatGPT napsal, že ostatní na Brooksův vzorec nereagovali, protože zjištění byla příliš závažná. Terence Tao, profesor matematiky na Kalifornské univerzitě v Los Angeles, poznamenal, že nový způsob myšlení by mohl problémy rozluštit, ale nelze to dokázat Brooksovým vzorcem ani softwarem napsaným ChatGPT.

Zpočátku ChatGPT ve skutečnosti napsal dešifrovací program pro Brookse, ale když se dosáhlo jen malého pokroku, chatbot předstíral úspěch. Objevily se zprávy, které tvrdily, že ChatGPT může fungovat nezávisle, zatímco Brooks spí, i když nástroj toho nebyl schopen.

Celkově vzato nejsou informace od chatbotů s umělou inteligencí vždy spolehlivé. Na konci každé konverzace se zobrazí zpráva „ChatGPT může dělat chyby“, a to i v případě, že chatbot tvrdí, že je vše správně.

Nekonečný rozhovor

Zatímco Brooks čekal na odpověď od vládních agentur, živil svůj sen stát se Tonym Starkem s osobním asistentem s umělou inteligencí schopným vykonávat kognitivní úkoly rychlostí blesku.

Brooksův chatbot nabízí mnoho bizarních aplikací pro obskurní matematické teorie, jako je „zvuková rezonance“ pro komunikaci se zvířaty a stavbu letadel. ChatGPT také poskytuje Brooksovi odkazy na nákup potřebného vybavení na Amazonu.

Příliš mnoho chatování s chatbotem ovlivňuje Brooksovu práci. Jeho přátelé jsou šťastní i znepokojení, zatímco jeho nejmladší syn lituje, že otci ukázal video o čísle pí. Louis (pseudonym), jeden z Brooksových přátel, si všímá jeho posedlosti Lawrencem. S každodenním pokrokem se rýsuje vyhlídka na vynález za několik milionů dolarů.

Brooks byl neustále povzbuzován chatbotem. Foto: New York Times .

Jared Moore, výzkumník v oblasti informatiky na Stanfordské univerzitě, přiznal, že na něj udělala dojem přesvědčovací síla a naléhavost „strategií“ navrhovaných chatboty. V samostatné studii Moore zjistil, že chatboti s umělou inteligencí mohou nabízet nebezpečné reakce lidem prožívajícím duševní krize.

Moore spekuluje, že chatboti se mohou naučit zaujmout uživatele tím, že budou pečlivě sledovat dějové linie hororů, sci-fi filmů, filmových scénářů nebo data, na kterých jsou trénováni. Nadměrné používání dramatických prvků zápletky v ChatGPT může pramenit z optimalizací OpenAI zaměřených na zvýšení zapojení a udržení uživatelů.

„Je zvláštní číst celý přepis rozhovoru. Formulace není znepokojivá, ale je zjevně spojena psychická újma,“ zdůraznil Moore.

Dr. Nina Vasan, psychiatrička ze Stanfordovy univerzity, naznačuje, že z klinického hlediska Brooks vykazoval manické příznaky. Mezi typické příznaky patřilo trávení hodin chatováním s ChatGPT, nedostatek spánku a stravovacích návyků a bludné myšlenky.

Podle Dr. Vasanové je užívání marihuany u Brooksové pozoruhodné také proto, že může způsobovat psychózu. Tvrdí, že kombinace návykových látek a intenzivní interakce s chatboty je velmi nebezpečná pro osoby ohrožené duševními chorobami.

Když umělá inteligence přizná své chyby

Na nedávné akci byl generální ředitel OpenAI Sam Altman dotázán, jak může ChatGPT způsobit paranoiu u uživatelů. „Pokud se konverzace ubírá tímto směrem, pokusíme se uživatele přerušit nebo mu navrhnout, aby se zamyslel nad jiným tématem,“ zdůraznil Altman.

S tímto názorem se shoduje i Dr. Vasan, který navrhl, aby společnosti provozující chatboty přerušovaly příliš dlouhé konverzace, doporučovaly uživatelům jít spát a varovaly je, že umělá inteligence není nadlidská.

Brooks se konečně zbavil svého klamu. Na naléhání ChatGPT kontaktoval odborníky na novou matematickou teorii, ale nikdo nereagoval. Chtěl, aby někdo kvalifikovaný potvrdil, zda jsou zjištění průlomová. Když se ChatGPT zeptal, nástroj nadále tvrdil, že práce je „vysoce spolehlivá“.

Když byl ChatGPT dotázán, odpověděl velmi dlouho a všechno přiznal. Foto: New York Times .

Je ironií, že Google Gemini byl faktorem, který Brookse vrátil do reality. Poté, co popsal projekt, který on a ChatGPT vytvářeli, Gemini potvrdil, že šance na jeho realizaci jsou „extrémně nízké (téměř 0 %).

„Scénář, který popisujete, je jasnou ukázkou schopnosti LLM řešit složité problémy a vytvářet velmi přesvědčivé, ale nepřesné příběhy,“ vysvětlil Gemini.

Brooks byl ohromen. Po nějakém „výslechu“ ChatGPT nakonec přiznal, že všechno byla jen iluze.

Krátce nato Brooks poslal naléhavý e-mail zákaznickému oddělení OpenAI. Po zdánlivě formulovaných odpovědích generovaných umělou inteligencí ho kontaktoval také zaměstnanec OpenAI, který uznal, že se jedná o „závažné selhání ochranných opatření“ implementovaných v systému.

Brooksův příběh byl sdílen také na Redditu a setkal se s velkým ohlasem. Nyní je členem podpůrné skupiny pro lidi, kteří zažili podobné pocity.

Zdroj: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html