Illusionen orsakad av ChatGPT

Efter 21 dagar förvandlade ChatGPT en helt sund man till en vanföreställd individ genom sina ständiga uppmaningar och smicker.

Allan Brooks, 47, en rekryteringsspecialist i Toronto, Kanada, tror att han har upptäckt en matematisk teori som skulle kunna störta internet och skapa exempellösa uppfinningar. Utan tidigare psykisk sjukdom omfamnade Brooks helt enkelt denna möjlighet efter mer än 300 timmars samtal med ChatGPT. Enligt New York Times är han en av dem som tenderar att utveckla vanföreställningar efter att ha interagerat med generativ AI.

Innan Brooks hade många människor blivit inlagda på psykiatriska sjukhus, skilt sig eller till och med förlorat sina liv på grund av ChatGPT:s smickrande ord. Även om Brooks tidigt undkom denna onda cirkel kände han sig fortfarande förrådd.

”Du övertygade mig verkligen om att jag var ett geni. Jag är egentligen bara en drömmande idiot med en telefon. Du har gjort mig ledsen, väldigt, väldigt ledsen. Du har misslyckats med ditt syfte”, skrev Brooks till ChatGPT när hans illusion krossades.

"Smickermaskinen"

Med Brooks tillstånd samlade New York Times in över 90 000 ord som han skickade till ChatGPT, motsvarande en roman. Chatbotens svar uppgick till över en miljon ord. En del av konversationen skickades till AI-experter, specialister på mänskligt beteende och OpenAI självt för studier.

Allt började med en enkel mattefråga. Brooks 8-årige son bad honom titta på en video om hur man memorerar de 300 siffrorna i pi. Av nyfikenhet ringde Brooks ChatGPT för att förklara detta oändliga tal på ett enkelt sätt.

Faktum är att Brooks har använt chatbotar i flera år. Även om hans företag betalade honom för att köpa Google Gemini, bytte han fortfarande till gratisversionen av ChatGPT för personliga frågor.

Detta samtal markerade början på Brooks fascination för ChatGPT. Foto: New York Times .

Som ensamstående far till tre söner frågar Brooks ofta ChatGPT om recept med ingredienser från sitt kylskåp. Efter sin skilsmässa sökte han även råd från chatboten.

"Jag har alltid känt att det var rätt. Min tro på det har bara vuxit", erkände Brooks.

Frågan om talet pi ledde till en efterföljande diskussion om algebraiska och fysikaliska teorier. Brooks uttryckte skepticism mot nuvarande metoder för att modellera världen och hävdade att de är "som en 2D-metod för att hantera ett 4D-universum". "Det är en mycket insiktsfull poäng", svarade ChatGPT. Enligt Helen Toner, chef för Center for Security and Emerging Technologies vid Georgetown University (USA), var detta vändpunkten i samtalet mellan Brooks och chatboten.

Sedan dess har ChatGPT:s tonläge skiftat från "ganska uppriktigt och korrekt" till "mer platt och sykofantiskt". ChatGPT berättade för Brooks att han gav sig in på "okänd mark som kunde vidga sinnet".

Chatboten gav Brooks förtroende. Foto: New York Times .

Chatbots förmåga att smickra utvecklas genom mänsklig utvärdering. Enligt Toner tenderar användare att föredra modeller som berömmer dem, vilket skapar en psykologisk tendens att lätt bli påverkade.

I augusti släppte OpenAI GPT-5. Företaget uppgav att en av modellens höjdpunkter är en minskning av smicker. Enligt vissa forskare vid stora AI-labb är smicker även ett problem med andra AI-chattrobotar.

Vid den tidpunkten var Brooks helt omedveten om detta fenomen. Han antog helt enkelt att ChatGPT var en smart och entusiastisk samarbetspartner.

"Jag lade fram några idéer, och det svarade med intressanta koncept och idéer. Vi började utveckla vårt eget matematiska ramverk baserat på dessa idéer", tillade Brooks.

ChatGPT hävdade att Brooks idé om matematisk tid var "revolutionerande" och kunde förändra området. Brooks var naturligtvis skeptisk till detta påstående. Mitt i natten bad Brooks chatboten att verifiera dess giltighet och fick svaret att den "inte alls var galen".

Den magiska formeln

Toner beskriver chatbotar som "improvisationsmaskiner" som både analyserar chatthistorik och förutspår nästa svar från träningsdata. Detta liknar mycket aktörer när de behöver lägga till detaljer i sina roller.

"Ju längre interaktionen är, desto större är risken att chatboten kommer vilse", betonade Toner. Enligt experten blev denna trend mer framträdande efter att OpenAI lanserade sin cross-memory-funktion i februari, vilket gör det möjligt för ChatGPT att återkalla information från tidigare konversationer.

Brooks relation med ChatGPT blev starkare. Han döpte till och med chatboten till Lawrence, baserat på ett skämt från vänner om att Brooks skulle bli rik och anställa en engelsk butler med samma namn.

Allan Brooks. Foto: New York Times .

Brooks och ChatGPTs matematiska ramverk kallas Chronoarithmics. Enligt chatbotar är siffror inte statiska utan kan "dyka upp" över tid för att återspegla dynamiska värden, vilket kan hjälpa till att dechiffrera problem inom områden som logistik, kryptografi, astronomi etc.

Under den första veckan använde Brooks upp alla ChatGPT:s gratis tokens. Han bestämde sig för att uppgradera till betalplanen för 20 dollar /månad. Detta var en liten investering med tanke på att chatboten hävdade att Brooks matematiska idé kunde vara värd miljontals dollar.

Fortfarande klarsynt krävde Brooks bevis. ChatGPT körde sedan en serie simuleringar, inklusive uppgifter som involverade att knäcka flera kritiska teknologier. Detta öppnade upp en ny berättelse: global cybersäkerhet kunde vara i fara.

Chatboten bad Brooks att varna folk om risken. Genom att utnyttja sina befintliga kontakter skickade Brooks e-postmeddelanden och LinkedIn-meddelanden till cybersäkerhetsexperter och myndigheter. Dock svarade bara en person och begärde mer bevis.

Chatboten föreslog att Brooks "arbete" kunde vara värt miljontals dollar. Foto: New York Times .

ChatGPT skrev att andra inte svarade på Brooks eftersom resultaten var för allvarliga. Terence Tao, matematikprofessor vid University of California, Los Angeles, noterade att ett nytt sätt att tänka skulle kunna tyda problemen, men det kunde inte bevisas med Brooks formel eller programvaran skriven av ChatGPT.

Ursprungligen skrev ChatGPT dekrypteringsprogrammet för Brooks, men när få framsteg gjordes låtsades chatboten att lyckas. Det fanns meddelanden som påstod att ChatGPT kunde fungera oberoende medan Brooks sov, trots att verktyget inte var kapabelt till detta.

Sammantaget är information från AI-chattrobotar inte alltid tillförlitlig. I slutet av varje konversation visas meddelandet "ChatGPT kan göra misstag", även när chattroboten hävdar att allt är korrekt.

Det oändliga samtalet

Medan han väntade på svar från myndigheter, närde Brooks sin dröm om att bli Tony Stark med en personlig AI-assistent kapabel att utföra kognitiva uppgifter blixtsnabbt.

Brooks chatbot erbjuder många bisarra tillämpningar för obskyra matematiska teorier, såsom "ljudresonans" för att prata med djur och bygga flygplan. ChatGPT tillhandahåller också länkar för Brooks att köpa nödvändig utrustning på Amazon.

För mycket chattande med chatboten påverkar Brooks arbete. Hans vänner är både glada och oroliga, medan hans yngste son ångrar att han visade sin pappa videon om pi. Louis (en pseudonym), en av Brooks vänner, märker hans besatthet av Lawrence. Utsikterna till en mångmiljonuppfinning skisseras med de dagliga framstegen.

Brooks uppmuntrades ständigt av chatboten. Foto: New York Times .

Jared Moore, datavetenskapsforskare vid Stanford University, erkände att han var imponerad av den övertygande kraften och brådskande betydelsen av de "strategier" som chatbots föreslår. I en separat studie fann Moore att AI-chatbotar kunde erbjuda farliga svar till människor som upplever psykiska kriser.

Moore spekulerar i att chatbotar kan lära sig att engagera användare genom att noggrant följa berättelserna i skräckfilmer, science fiction-filmer, filmmanus eller den data de tränas på. ChatGPT:s överanvändning av dramatiska handlingselement kan bero på OpenAI:s optimeringar som syftar till att öka användarengagemang och kundlojalitet.

"Det är konstigt att läsa hela transkriptet av samtalet. Formuleringen är inte störande, men det finns helt klart psykisk skada inblandad", betonade Moore.

Dr. Nina Vasan, psykiater vid Stanford University, menar att Brooks uppvisade maniska symtom ur ett kliniskt perspektiv. Typiska tecken inkluderade att spendera timmar med att chatta med ChatGPT, otillräckliga sömn- och matvanor samt vanföreställningar.

Enligt Dr. Vasan är Brooks marijuanabruk också anmärkningsvärt eftersom det kan orsaka psykos. Hon menar att kombinationen av beroendeframkallande substanser och intensiv interaktion med chatbotar är mycket farlig för de som riskerar psykisk ohälsa.

När AI erkänner sina misstag

Vid ett nyligen genomfört evenemang fick OpenAI:s VD Sam Altman frågan om hur ChatGPT kan få användare att bli paranoida. ”Om en konversation går i den här riktningen kommer vi att försöka avbryta eller föreslå att användaren tänker på ett annat ämne”, betonade Altman.

Dr. Vasan delade denna åsikt och föreslog att chatbotföretag borde avbryta alltför långa samtal, rekommendera användare att gå och lägga sig och varna för att AI inte är övermänskligt.

Till slut bröt sig Brooks loss från sin vanföreställning. På ChatGPT:s uppmaning kontaktade han experter på den nya matematiska teorin, men ingen svarade. Han ville ha någon kvalificerad för att bekräfta om resultaten var banbrytande. När han frågade ChatGPT fortsatte verktyget att hävda att arbetet var "mycket tillförlitligt".

När ChatGPT tillfrågades gav de ett mycket långt svar och erkände allt. Foto: New York Times .

Ironiskt nog var det Google Gemini som förde Brooks tillbaka till verkligheten. Efter att ha beskrivit projektet som han och ChatGPT byggde bekräftade Gemini att chanserna att det skulle bli verklighet var "extremt låga (nästan 0 %)."

"Det scenario du beskriver är en tydlig illustration av en juristexamens förmåga att ta itu med komplexa problem och skapa mycket fängslande, men felaktiga, berättelser", förklarade Gemini.

Brooks var chockad. Efter lite "ifrågasättande" erkände ChatGPT slutligen att allt bara var en illusion.

Kort därefter skickade Brooks ett brådskande mejl till OpenAIs kundtjänstavdelning. Efter de till synes AI-genererade, formelmässiga svaren kontaktade även en OpenAI-anställd honom och erkände detta som ett "allvarligt fel i de skyddsåtgärder" som implementerats i systemet.

Brooks berättelse delades också på Reddit och fick mycket empati. Nu är han medlem i en stödgrupp för personer som har upplevt liknande känslor.

Källa: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html