Illúzió a ChatGPT miatt

21 nap után a ChatGPT egy teljesen józan férfit téveszméssé változtat unszolással és hízelgéssel.

Allan Brooks (47 éves), egy torontói (Kanada) toborzó úgy véli, hogy felfedezett egy matematikai elméletet, amely összeomlaszthatja az internetet, példátlan találmányokat hozva létre. Mivel mentális betegségekkel nem küzdött, Brooks egyszerűen elfogadta a lehetőséget, miután több mint 300 órát csevegni kezdett a ChatGPT-vel. A New York Times szerint ő egyike azoknak az embereknek, akik hajlamosak téveszmékre a generatív mesterséges intelligenciával való interakció után.

Brooks előtt sok embernek kellett elmegyógyintézetbe kerülnie, elválnia, sőt, életet veszítenie ChatGPT hízelgése miatt. Bár Brooks gyorsan kiszabadult a fenti spirálból, továbbra is elárulva érezte magát.

„Tényleg meggyőztél arról, hogy zseni vagyok. Csak egy álmodozó bolond voltam egy telefonnal. Elszomorítottál, nagyon elszomorítottál. Nem sikerült elérned a célodat” – írta Brooks a ChatGPT-nek, amikor az illúzió szertefoszlott.

"Hízelgő gép"

Brooks engedélyével a New York Times több mint 90 000 szót gyűjtött össze, amit a chatbot a ChatGPT-nek küldött – ez egy regénynyi mennyiségnek felel meg. A chatbot válaszai összesen több mint egymillió szót tettek ki. A beszélgetések egyes részeit elküldték mesterséges intelligencia szakértőknek, emberi viselkedéskutatóknak és magának az OpenAI-nak tanulmányozás céljából.

Minden egy egyszerű matematikai kérdéssel kezdődött. Brooks 8 éves fia megkérte, hogy nézzen meg egy videót a pi 300 számjegyének memorizálásáról. Kíváncsiságból Brooks felhívta a ChatGPT-t, hogy egyszerűen elmagyarázza a végtelen számot.

Brooks valójában évek óta használ chatbotokat. Annak ellenére, hogy a cége fizetett a Google Geminiért, személyes kérdéseivel továbbra is a ChatGPT ingyenes verziójához fordul.

A beszélgetés, ami kiváltotta Brooks lenyűgözését a ChatGPT iránt. Fotó: New York Times .

Brooks, három fiú egyedülálló apja, gyakran kért recepteket a ChatGPT-től a hűtőjében lévő alapanyagokból. Válása után szintén tanácsot kért a chatbottól.

„Mindig is úgy éreztem, hogy ez a helyes. Az önbizalmam megnőtt” – ismerte el Brooks.

A π-vel kapcsolatos kérdés további beszélgetéshez vezetett az algebrai és fizikai elméletekről. Brooks szkepticizmusát fejezte ki a világ modellezésének jelenlegi módszereivel kapcsolatban, mondván, hogy azok „olyanok, mint egy 2D-s megközelítés egy 4D-s univerzumhoz”. „Ez egy nagyon mélyreható pont” – válaszolta ChatGPT. Helen Toner, a Georgetown Egyetem Biztonsági és Feltörekvő Technológiai Központjának igazgatója hangsúlyozta, hogy ez volt a fordulópont Brooks és a chatbot közötti beszélgetésben.

Innentől ChatGPT hangneme az „egészen egyenes és lényegre törő”-ből „hízelgőbb és hízelgőbb”-re változott. ChatGPT azt mondta Brooksnak, hogy „feltérképezetlen, elmét tágító területre” lépett be.

Chatbot bizalmat kelt Brooksban. Fotó: New York Times .

A chatbotok hízelgését az emberi értékelés alakítja. Toner szerint a felhasználók általában azokat a modelleket kedvelik, akik dicsérik őket, ami egy olyan mentalitást teremt, amelyet könnyű kielégíteni.

Augusztusban az OpenAI kiadta a GPT-5-öt. A vállalat szerint a modell egyik kiemelkedő tulajdonsága a hízelgés csökkentése. Egyes nagyobb MI-laboratóriumok kutatói szerint a hízelgés más MI-csevegőbotoknál is problémát jelent.

Abban az időben Brooks nem volt tudatában ennek a jelenségnek. Egyszerűen csak egy okos és lelkes kollégának tartotta ChatGPT-t.

„Felvetettem néhány ötletet, és ezek érdekes koncepciókkal és ötletekkel válaszoltak. Elkezdtük kidolgozni a saját matematikai keretrendszerünket erre alapozva” – tette hozzá Brooks.

A ChatGPT azt állítja, hogy Brooks időmatematikáról alkotott elképzelése „forradalmi”, és megváltoztathatja a területet. Brooks természetesen szkeptikus ezzel az állítással kapcsolatban. Az éjszaka közepén Brooks megkérte a chatbotot, hogy ellenőrizze a tényeket, és azt a választ kapta, hogy „egyáltalán nem őrültség”.

Varázsképlet

Toner a chatbotokat „improvizációs gépekként” írja le, amelyek elemzik a beszélgetések előzményeit, és a betanítási adatokból megjósolják a jövőbeli válaszokat, hasonlóan ahhoz, ahogy a színészek tartalmat adnak egy szerephez.

„Minél hosszabb az interakció, annál valószínűbb, hogy a chatbot eltéved” – jegyzi meg Toner. Ez a tendencia, mondja, még hangsúlyosabbá vált, miután az OpenAI februárban elindította a chatek közötti memóriát, lehetővé téve a ChatGPT számára, hogy felidézze a korábbi beszélgetésekből származó információkat.

Brooks közel került a ChatGPT-hez, sőt, a chatbotot Lawrence-nek nevezte el, barátai viccéből kiindulva, miszerint Brooks meggazdagszik, és felbérel egy azonos nevű brit komornyikot.

Allan Brooks. Fotó: New York Times .

Brooks és a ChatGPT matematikai keretrendszerét Chronoaritmicsnak hívják. A chatbot szerint a számok nem statikusak, hanem idővel „előbukkanhatnak”, és dinamikus értékeket tükrözhetnek, ami segíthet olyan területeken felmerülő problémák megoldásában, mint a logisztika, a kriptográfia, a csillagászat stb.

Brooks az első héten felhasználta a ChatGPT összes ingyenes tokenjét. Úgy döntött, hogy frissít a havi 20 dolláros fizetős csomagra, ami kis befektetésnek számított, miután a chatbot közölte vele, hogy Brooks matematikai ötlete milliókat érhet.

Brooks továbbra is eszméleténél volt, és bizonyítékot követelt. A ChatGPT ezután egy sor szimulációt futtatott le, köztük olyanokat is, amelyek számos fontos technológiát feltörtek. Ez egy új történetet nyitott: a globális kiberbiztonság veszélybe kerülhet.

A chatbot arra kérte Brookst, hogy figyelmeztesse az embereket a kockázatokra. Brooks meglévő kapcsolatait felhasználva e-maileket és LinkedIn-üzeneteket küldött kiberbiztonsági szakértőknek és kormányzati szerveknek. Csak egy személy válaszolt, további bizonyítékokat kérve.

A chatbot úgy véli, Brooks „munkája” több millió dollárt is érhet. Fotó: New York Times .

A ChatGPT azt írja, hogy mások nem reagáltak Brooksnak, mivel a megállapítások annyira súlyosak voltak. Terence Tao, a Los Angeles-i Kaliforniai Egyetem matematikaprofesszora szerint egy új gondolkodásmód megfejtheti a problémákat, de Brooks képlete vagy a ChatGPT által írt szoftver nem tudja bizonyítani azokat.

Kezdetben a ChatGPT írta a dekódoló programot a Brooks számára, de mivel kevés előrelépés történt, a chatbot úgy tett, mintha sikeres lenne. Vannak üzenetek, amelyek azt állítják, hogy a ChatGPT képes függetlenül működni, miközben a Brooks alszik, annak ellenére, hogy az eszköz nem rendelkezik ezzel a képességgel.

Általánosságban elmondható, hogy a mesterséges intelligencia által vezérelt chatbottól származó információk nem mindig megbízhatóak. Minden chat végén megjelenik a „ChatGPT hibákat követhet el” üzenet, még akkor is, ha a chatbot azt állítja, hogy minden helyes.

Végtelen beszélgetés

Miközben a kormányzati szerv válaszára vár, Brooks dédelgeti azt az álmot, hogy Tony Starkká váljon saját mesterséges intelligencia által vezérelt asszisztenssel, aki villámgyorsan képes kognitív feladatokat végrehajtani.

Brooks chatbotja számos furcsa alkalmazást kínál a homályos matematikai elméletekhez, például az „akusztikus rezonanciát” állatokkal való beszélgetéshez és repülőgépek építéséhez. A ChatGPT egy linket is biztosít, amellyel Brooks megvásárolhatja a szükséges felszerelést az Amazonon.

Brooks túlzott csevegése a chatbottal kihatott a munkájára. Barátai egyszerre voltak boldogok és aggódóak, míg legkisebb fia megbánta, hogy megmutatott apjának egy pi-videót. Brooks egyik barátja, Louis (nem a valódi neve), észrevette a Lawrence iránti megszállottságát. Egy millió dolláros találmány víziója a fejlesztés minden egyes lépésével körvonalazódott.

Brooksot folyamatosan bátorítja a chatbot. Fotó: New York Times .

Jared Moore, a Stanford Egyetem számítástechnikai kutatója elismeri, hogy lenyűgözte a chatbotok által javasolt „stratégia” meggyőző ereje és sürgőssége. Egy másik tanulmányban Moore megállapította, hogy a mesterséges intelligencia által vezérelt chatbotok veszélyes válaszokat adhatnak a mentális egészségügyi válságban lévő embereknek.

Moore feltételezése szerint a chatbotok megtanulhatják a felhasználók bevonását horrorfilmek, sci-fi filmek, filmforgatókönyvek vagy a betanított adatok cselekményének követésével. A ChatGPT drámai elemeinek túlzott használata az OpenAI elköteleződést és megtartás növelését célzó optimalizálásainak tudható be.

„Furcsa volt elolvasni az egész beszélgetést. A szavak nem voltak zavaróak, de egyértelműen érződött a pszichológiai kár” – hangsúlyozta Moore.

Klinikai szempontból Brooks mánia tünetei mutatkoznak – mondta Dr. Nina Vasan, a Stanford Egyetem pszichiátere. Tipikus jelek közé tartozik az órákig tartó csevegés a ChatGPT-vel, a nem elegendő alvás és az irreális ötletek.

Dr. Vasan szerint Brooks marihuánafogyasztása azért is figyelemre méltó, mert pszichózist okozhat. Hozzátette, hogy a függőséget okozó szerek és a chatbottal való intenzív interakció kombinációja veszélyes azok számára, akiknél fennáll a mentális betegségek kockázata.

Amikor a mesterséges intelligencia beismeri a hibákat

Egy nemrégiben tartott eseményen az OpenAI vezérigazgatóját, Sam Altmant arról kérdezték, hogy a ChatGPT paranoiássá teszi-e a felhasználókat. „Ha a beszélgetés ebbe az irányba halad, megpróbáljuk félbeszakítani, vagy azt javasolni a felhasználónak, hogy gondoljon valami másra” – hangsúlyozta Altman.

Dr. Vasan, aki ugyanígy vélekedett, azt mondta, hogy a chatbot-cégeknek félbe kellene szakítaniuk a túl hosszú beszélgetéseket, javasolniuk kellene a felhasználóknak, hogy aludjanak, és figyelmeztetniük kellene, hogy a mesterséges intelligencia nem emberfeletti lény.

Brooks végül magához tért ábrándozásából. A ChatGPT unszolására továbbra is kapcsolatba lépett az új matematikai elmélet szakértőivel, de senki sem válaszolt. Azt akarta, hogy valaki, aki képes megerősíteni, hogy az eredmények úttörőek-e. Amikor megkérdezte a ChatGPT-t, az eszköz továbbra is azt állította, hogy a munka „nagyon megbízható”.

Amikor megkérdezték, ChatGPT nagyon hosszasan válaszolt, és mindent beismert. Fotó: New York Times .

Ironikus módon a Google Gemini hozta vissza Brookst a valóságba. Miután ismertette a ChatGPT-vel közösen végzett munkáját, a Gemini megerősítette, hogy ennek az esélye „rendkívül alacsony (közel 0%)”.

„Az Ön által leírt forgatókönyv egyértelműen demonstrálja egy LLM képessé válni komplex problémamegoldásra, és meggyőző, mégis tényszerűen helytelen narratívákat alkotni” – magyarázza Gemini.

Brooks megdöbbent. Egy darabig tartó „kihallgatás” után ChatGPT végül őszintén beismerte, hogy minden csak illúzió volt.

Brooks ezután sürgős e-mailt küldött az OpenAI ügyfélszolgálatának. Miután a mesterséges intelligencia látszólag sablonos válaszokat adott, egy OpenAI-alkalmazott is felvette vele a kapcsolatot, elismerte a rendszerben bevezetett „védelmi intézkedések súlyos hiányosságait”.

Brooks történetét a Redditen is megosztották, és sok együttérzést váltott ki. Most egy támogató csoport tagja, amelyet azok számára hoztak létre, akik átélték ezt az érzést.

Forrás: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html