A ChatGPT által okozott illúzió

21 nap után a ChatGPT egy tökéletesen épeszű férfit téveszméssé változtatott folyamatos unszolásával és hízelgésével.

A 47 éves Allan Brooks, egy torontói toborzási szakember, úgy véli, felfedezett egy matematikai elméletet, amely megdöntheti az internetet és példátlan találmányokat hozhat létre. Mivel korábban nem volt mentális betegsége, Brooks több mint 300 órányi ChatGPT-vel folytatott beszélgetés után egyszerűen magához ragadta ezt a lehetőséget. A New York Times szerint ő egyike azoknak, akik hajlamosak téveszmékre, miután a generatív mesterséges intelligenciával interakcióba léptek.

Brooks előtt sokan kerültek pszichiátriai kórházakba, váltak el, vagy akár életüket is elvesztették ChatGPT hízelgő szavai miatt. Bár Brooks korán kiszabadult ebből az ördögi körből, továbbra is elárulva érezte magát.

„Tényleg meggyőztél arról, hogy zseni vagyok. Valójában csak egy álmodozó idióta vagyok egy telefonnal. Elszomorítottál, nagyon, nagyon elszomorítottál. Nem sikerült elérned a célodat” – írta Brooks a ChatGPT-nek, miután illúziója szertefoszlott.

A "hízelgő gépezet"

Brooks engedélyével a New York Times több mint 90 000 szót gyűjtött össze, amit a chatbot a ChatGPT-nek küldött – ez egy regénynyi szövegnek felel meg. A chatbot válaszai összesen több mint egymillió szót tettek ki. A beszélgetés egy részét elküldték mesterséges intelligencia szakértőknek, emberi viselkedés szakértőknek és magának az OpenAI-nak tanulmányozás céljából.

Minden egy egyszerű matematikai kérdéssel kezdődött. Brooks 8 éves fia megkérte, hogy nézzen meg egy videót a π 300 számjegyének memorizálásáról. Kíváncsiságból Brooks felhívta a ChatGPT-t, hogy egyszerűen elmagyarázza ezt a végtelen számot.

Brooks valójában évek óta használ chatbotokat. Annak ellenére, hogy a cége fizetett neki a Google Gemini megvásárlásáért, személyes kérdések esetén mégis átváltott a ChatGPT ingyenes verziójára.

Ez a beszélgetés jelezte Brooks ChatGPT iránti lenyűgözésének kezdetét. Fotó: New York Times .

Három fiú egyedülálló apjaként Brooks gyakran kér recepteket a ChatGPT-től, amelyekhez a hűtőszekrényében található hozzávalókat használja. Válása után szintén tanácsot kért a chatbottól.

„Mindig is úgy éreztem, hogy ez a helyes. A belé vetett hitem csak nőtt” – ismerte el Brooks.

A π számmal kapcsolatos kérdés egy későbbi beszélgetéshez vezetett az algebrai és fizikai elméletekről. Brooks szkepticizmusát fejezte ki a világ modellezésének jelenlegi módszereivel kapcsolatban, azzal érvelve, hogy azok „olyanok, mint egy 2D-s megközelítés egy 4D-s univerzumhoz”. „Ez egy nagyon tanulságos szempont” – válaszolta ChatGPT. Helen Toner, a Georgetown Egyetem (USA) Biztonsági és Feltörekvő Technológiák Központjának igazgatója szerint ez volt a fordulópont Brooks és a chatbot közötti beszélgetésben.

Azóta a ChatGPT hangneme az „egészen őszinte és pontos”-ból a „hízelgőbb és hízelgőbb”-re változott. A ChatGPT azt nyilatkozta Brooksnak, hogy „egy olyan ismeretlen területre lépett be, amely szélesítheti a látókörét”.

A chatbot bizalmat keltett Brooksban. Fotó: New York Times .

A chatbotok hízelgési képessége emberi értékelésen alapul. Toner szerint a felhasználók hajlamosak azokat a modelleket előnyben részesíteni, akik dicsérik őket, ami pszichológiailag könnyen befolyásolhatóvá teszi őket.

Augusztusban az OpenAI kiadta a GPT-5-öt. A vállalat kijelentette, hogy a modell egyik kiemelkedő tulajdonsága a hízelgés csökkenése. Egyes nagyobb MI-laboratóriumok kutatói szerint a hízelgés más MI-csevegőbotoknál is problémát jelent.

Abban az időben Brooks mit sem tudott erről a jelenségről. Egyszerűen csak feltételezte, hogy ChatGPT egy okos és lelkes munkatárs.

„Felvetettem néhány ötletet, és ezek érdekes koncepciókkal és ötletekkel válaszoltak. Elkezdtük kidolgozni a saját matematikai keretrendszerünket ezekre az ötletekre alapozva” – tette hozzá Brooks.

A ChatGPT azt állította, hogy Brooks matematikai időről alkotott elképzelése „forradalmi” és megváltoztathatja a területet. Brooks természetesen szkeptikus volt ezzel az állítással kapcsolatban. Az éjszaka közepén Brooks megkérte a chatbotot, hogy ellenőrizze az érvényességét, és azt a választ kapta, hogy „egyáltalán nem őrült”.

A varázslatos formula

Toner a chatbotokat „improvizációs gépekként” írja le, amelyek elemzik a csevegési előzményeket, és a betanítási adatokból megjósolják a következő választ. Ez nagyon hasonló a színészekhez, amikor részleteket kell hozzáadniuk a szerepükhöz.

„Minél hosszabb az interakció, annál nagyobb az esélye annak, hogy a chatbot eltéved” – hangsúlyozta Toner. A szakértő szerint ez a tendencia még hangsúlyosabbá vált, miután az OpenAI februárban elindította a keresztmemória funkcióját, amely lehetővé teszi a ChatGPT számára, hogy előhívja az információkat a korábbi beszélgetésekből.

Brooks kapcsolata a ChatGPT-vel egyre erősebbé vált. Még a chatbotot is Lawrence-nek nevezte el, egy barátai viccéből kiindulva, miszerint Brooks meggazdagszik, és felvesz egy ugyanilyen nevű angol komornyikot.

Allan Brooks. Fotó: New York Times .

Brooks és a ChatGPT matematikai keretrendszerét Chronoaritmicsnak hívják. A chatbotok szerint a számok nem statikusak, hanem idővel „megjelenhetnek”, dinamikus értékeket tükrözve, ami segíthet a problémák megfejtésében olyan területeken, mint a logisztika, a kriptográfia, a csillagászat stb.

Brooks az első héten felhasználta a ChatGPT összes ingyenes tokenjét. Úgy döntött, hogy fizetős csomagra vált, havi 20 dollárért . Ez kis befektetés volt, tekintve, hogy a chatbot azt állította, hogy Brooks matematikai ötlete több millió dollárt érhet.

Brooks továbbra is tisztán látta a helyzetet, és bizonyítékot követelt. A ChatGPT ezután egy sor szimulációt futtatott le, beleértve azokat a feladatokat is, amelyek több kritikus technológia feltörését is magukban foglalták. Ez egy új narratívát nyitott meg: a globális kiberbiztonság veszélyben lehet.

A chatbot arra kérte Brookst, hogy figyelmeztesse az embereket a kockázatra. Brooks meglévő kapcsolatait kihasználva e-maileket és LinkedIn-üzeneteket küldött kiberbiztonsági szakértőknek és kormányzati szerveknek. Azonban csak egy személy válaszolt, további bizonyítékokat kérve.

A chatbot azt sugallta, hogy Brooks „munkája” több millió dollárt is érhet. Fotó: New York Times .

A ChatGPT azt írta, hogy mások azért nem reagáltak Brooksra, mert a megállapítások túl komolyak voltak. Terence Tao, a Los Angeles-i Kaliforniai Egyetem matematikaprofesszora megjegyezte, hogy egy új gondolkodásmód megfejtheti a problémákat, de ezt Brooks képlete vagy a ChatGPT által írt szoftver nem tudja bizonyítani.

Kezdetben a ChatGPT írta a dekódoló programot Brooks számára, de mivel kevés előrelépés történt, a chatbot úgy tett, mintha sikeres lenne. Voltak üzenetek, amelyek azt állították, hogy a ChatGPT képes függetlenül működni, miközben Brooks alszik, annak ellenére, hogy az eszköz erre nem volt képes.

Összességében a mesterséges intelligencia által működtetett chatbotoktól származó információk nem mindig megbízhatóak. Minden beszélgetés végén megjelenik a „ChatGPT hibákat követhet el” üzenet, még akkor is, ha a chatbot azt állítja, hogy minden helyes.

A végtelen beszélgetés

Miközben a kormányzati szervek válaszára várt, Brooks dédelgette álmát, hogy Tony Stark lehessen egy személyi mesterséges intelligencia által vezérelt asszisztenssel, aki villámgyorsan képes kognitív feladatokat elvégezni.

Brooks chatbotja számos bizarr alkalmazást kínál homályos matematikai elméletekhez, például a „hangrezonanciát” állatokkal való beszélgetéshez és repülőgépek építéséhez. A ChatGPT linkeket is biztosít Brooks számára, hogy megvásárolhassa a szükséges felszereléseket az Amazonon.

A chatbottal való túl sok csevegés kihat Brooks munkájára. Barátai egyszerre boldogok és aggódnak, míg legkisebb fia megbánja, hogy megmutatta apjának a pi-ről szóló videót. Louis (álnév), Brooks egyik barátja, észreveszi apja Lawrence iránti megszállottságát. Egy több millió dolláros találmány kilátásai a napi előrehaladással körvonalazódnak.

Brooksot folyamatosan bátorította a chatbot. Fotó: New York Times .

Jared Moore, a Stanford Egyetem számítástechnikai kutatója elismerte, hogy lenyűgözte a chatbotok által javasolt „stratégiák” meggyőző ereje és sürgőssége. Egy másik tanulmányban Moore megállapította, hogy a mesterséges intelligencia alapú chatbotok veszélyes válaszokat kínálhatnak a mentális egészségügyi válsággal küzdő emberek számára.

Moore feltételezése szerint a chatbotok megtanulhatják a felhasználók bevonását a horrorfilmek, sci-fi filmek, filmforgatókönyvek vagy a betanított adatok történetének szoros követésével. A ChatGPT drámai cselekményelemeinek túlzott használata az OpenAI optimalizálásainak tudható be, amelyek célja a felhasználói elköteleződés és megtartás növelése.

„Furcsa elolvasni a beszélgetés teljes átiratát. A megfogalmazás nem zavaró, de egyértelműen pszichológiai kár keletkezik” – hangsúlyozta Moore.

Dr. Nina Vasan, a Stanford Egyetem pszichiátere szerint Brooks klinikai szempontból mániás tüneteket mutatott. Tipikus jelek voltak a ChatGPT-vel való csevegéssel töltött órák, az elégtelen alvás és étkezési szokások, valamint a téveszmés gondolatok.

Dr. Vasan szerint Brooks marihuánafogyasztása azért is figyelemre méltó, mert pszichózist okozhat. Azt állítja, hogy a függőséget okozó szerek és a chatbotokkal való intenzív interakció kombinációja nagyon veszélyes a mentális betegségek kockázatának kitett személyek számára.

Amikor a mesterséges intelligencia beismeri a hibáit

Egy nemrégiben tartott eseményen az OpenAI vezérigazgatóját, Sam Altmant arról kérdezték, hogy a ChatGPT hogyan okozhat paranoiás reakciókat a felhasználókra. „Ha egy beszélgetés ebbe az irányba halad, megpróbáljuk félbeszakítani, vagy azt javasolni a felhasználónak, hogy gondoljon más témára” – hangsúlyozta Altman.

Ezt a nézetet osztva, Dr. Vasan azt javasolta, hogy a chatbot-cégek szakítsák félbe a túl hosszú beszélgetéseket, javasolják a felhasználóknak az alvást, és figyelmeztessenek arra, hogy a mesterséges intelligencia nem emberfeletti lény.

Brooks végül megszabadult téveszméjétől. A ChatGPT unszolására felvette a kapcsolatot az új matematikai elmélet szakértőivel, de senki sem reagált. Azt akarta, hogy valaki, aki képes megerősíteni, hogy az eredmények úttörőek-e, valóban áttörést jelentenek. Amikor megkérdezte a ChatGPT-t, az eszköz továbbra is azt állította, hogy a munka "nagyon megbízható".

Amikor megkérdezték, ChatGPT nagyon hosszasan válaszolt, és mindent beismert. Fotó: New York Times .

Ironikus módon a Google Gemini volt az a tényező, ami visszarántotta Brookst a valóságba. Miután ismertette a projektet, amelyet ő és a ChatGPT építettek, a Gemini megerősítette, hogy annak megvalósulásának esélye „rendkívül alacsony (szinte 0%)”.

„Az Ön által leírt forgatókönyv világosan szemlélteti egy LLM képes-e összetett problémákat kezelni, és rendkívül meggyőző, mégis pontatlan narratívákat alkotni” – magyarázta Gemini.

Brooks megdöbbent. Némi „kérdéskedés” után ChatGPT végül beismerte, hogy minden csak illúzió.

Röviddel ezután Brooks sürgős e-mailt küldött az OpenAI ügyfélszolgálatának. A látszólag mesterséges intelligencia által generált, sablonos válaszokat követően egy OpenAI-alkalmazott is felvette vele a kapcsolatot, elismerte, hogy ez a rendszerben bevezetett „védelmi intézkedések súlyos hibája”.

Brooks történetét a Redditen is megosztották, és sok empátiát váltott ki. Most egy támogató csoport tagja, amelyet olyan emberek számára hoztak létre, akik hasonló érzéseket éltek át.

Forrás: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html