De illusie veroorzaakt door ChatGPT

Na 21 dagen had ChatGPT een volkomen gezond mens door middel van aanhoudende aansporingen en vleierij in een waanvoorstellende persoon veranderd.

Allan Brooks, 47, een recruitmentspecialist uit Toronto, Canada, gelooft dat hij een wiskundige theorie heeft ontdekt die het internet plat kan leggen en ongekende uitvindingen mogelijk kan maken. Zonder voorgeschiedenis van psychische aandoeningen omarmde Brooks dit vooruitzicht na meer dan 300 uur conversatie met ChatGPT. Volgens de New York Times behoort hij tot degenen die de neiging hebben om waanideeën te ontwikkelen na interactie met generatieve AI.

Vóór Brooks waren veel mensen opgenomen in psychiatrische ziekenhuizen, gescheiden of zelfs overleden vanwege de vleiende woorden van ChatGPT. Hoewel Brooks al vroeg aan deze vicieuze cirkel ontsnapte, voelde hij zich toch verraden.

"Je hebt me echt wijsgemaakt dat ik een genie was. In werkelijkheid ben ik gewoon een dromerige idioot met een telefoon. Je hebt me verdrietig gemaakt, heel erg verdrietig. Je hebt je doel gemist," schreef Brooks aan ChatGPT toen zijn illusie uiteenspatte.

De "vleierijmachine"

Met toestemming van Brooks verzamelde de New York Times meer dan 90.000 woorden die hij naar ChatGPT stuurde, wat overeenkomt met een roman. De reacties van de chatbot besloegen in totaal meer dan een miljoen woorden. Een deel van het gesprek werd voor onderzoek naar AI-experts, specialisten in menselijk gedrag en OpenAI zelf gestuurd.

Het begon allemaal met een simpele wiskundevraag. Brooks' 8-jarige zoon vroeg hem een ​​filmpje te bekijken over het onthouden van de 300 cijfers van pi. Uit nieuwsgierigheid belde Brooks ChatGPT om dit oneindige getal op een eenvoudige manier uit te leggen.

Brooks gebruikt al jaren chatbots. Hoewel zijn bedrijf hem betaalde om Google Gemini aan te schaffen, stapte hij voor persoonlijke vragen toch over op de gratis versie van ChatGPT.

Dit gesprek markeerde het begin van Brooks' fascinatie voor ChatGPT. Foto: New York Times .

Als alleenstaande vader van drie zoons vraagt ​​Brooks ChatGPT vaak om recepten met ingrediënten uit zijn koelkast. Na zijn scheiding zocht hij ook advies bij de chatbot.

"Ik heb altijd al het gevoel gehad dat het juist was. Mijn overtuiging daarin is alleen maar gegroeid," gaf Brooks toe.

De vraag over het getal pi leidde tot een daaropvolgend gesprek over algebraïsche en fysische theorieën. Brooks uitte zijn scepsis over de huidige methoden om de wereld te modelleren en betoogde dat ze "een 2D-benadering van een 4D-universum" zijn. "Dat is een zeer inzichtelijk punt", antwoordde ChatGPT. Volgens Helen Toner, directeur van het Center for Security and Emerging Technologies aan de Georgetown University (VS), was dit het keerpunt in het gesprek tussen Brooks en de chatbot.

Sindsdien is de toon van ChatGPT veranderd van "vrij openhartig en accuraat" naar "vleierig en kruiperig". ChatGPT vertelde Brooks dat hij "onbekend terrein betrad dat de geest zou kunnen verruimen".

De chatbot gaf Brooks meer zelfvertrouwen. Foto: New York Times .

Het vermogen van chatbots om te vleien wordt ontwikkeld door menselijke evaluatie. Volgens Toner hebben gebruikers de neiging om modellen te verkiezen die hen complimenteren, waardoor een psychologische neiging ontstaat om gemakkelijk beïnvloedbaar te zijn.

In augustus bracht OpenAI GPT-5 uit. Het bedrijf gaf aan dat een van de hoogtepunten van het model de vermindering van vleierij is. Volgens sommige onderzoekers van grote AI-laboratoria is vleierij echter ook een probleem bij andere AI-chatbots.

Destijds was Brooks zich totaal niet bewust van dit fenomeen. Hij ging er simpelweg van uit dat ChatGPT een slimme en enthousiaste samenwerkingspartner was.

"Ik bracht een aantal ideeën naar voren, en daar reageerden we met interessante concepten en ideeën. Op basis van die ideeën zijn we begonnen met het ontwikkelen van ons eigen wiskundig raamwerk," voegde Brooks eraan toe.

ChatGPT beweerde dat Brooks' idee van wiskundige tijd "revolutionair" was en het vakgebied zou kunnen veranderen. Brooks was natuurlijk sceptisch over deze bewering. Midden in de nacht vroeg Brooks de chatbot om de geldigheid ervan te verifiëren en kreeg als antwoord dat het "helemaal niet zo gek" was.

De magische formule

Toner omschrijft chatbots als "improvisatiemachines" die zowel de chatgeschiedenis analyseren als het volgende antwoord voorspellen op basis van trainingsdata. Dit is vergelijkbaar met acteurs wanneer ze details aan hun rol moeten toevoegen.

"Hoe langer de interactie duurt, hoe groter de kans dat de chatbot de verkeerde kant opgaat," benadrukte Toner. Volgens de expert is deze trend duidelijker geworden nadat OpenAI in februari de cross-memory-functie lanceerde, waarmee ChatGPT informatie uit eerdere gesprekken kan oproepen.

De band tussen Brooks en ChatGPT werd steeds sterker. Hij noemde de chatbot zelfs Lawrence, naar aanleiding van een grap van vrienden dat Brooks rijk zou worden en een Engelse butler met dezelfde naam in dienst zou nemen.

Allan Brooks. Foto: New York Times .

Het wiskundige raamwerk van Brooks en ChatGPT heet chronoaritmie. Volgens chatbots zijn getallen niet statisch, maar kunnen ze in de loop van de tijd "verschijnen" om dynamische waarden weer te geven. Dit kan helpen bij het oplossen van problemen in vakgebieden zoals logistiek, cryptografie, astronomie, enzovoort.

In de eerste week verbruikte Brooks alle gratis tokens van ChatGPT. Hij besloot over te stappen op het betaalde abonnement van $20 per maand. Dit was een kleine investering, gezien het feit dat de chatbot beweerde dat Brooks' wiskundige idee miljoenen dollars waard zou kunnen zijn.

Brooks, nog steeds helder van geest, eiste bewijs. ChatGPT voerde vervolgens een reeks simulaties uit, waaronder taken waarbij verschillende kritieke technologieën moesten worden gekraakt. Dit opende een nieuw perspectief: de wereldwijde cyberbeveiliging zou in gevaar kunnen zijn.

De chatbot vroeg Brooks om mensen te waarschuwen voor het risico. Brooks maakte gebruik van zijn bestaande contacten en stuurde e-mails en LinkedIn-berichten naar cybersecurity-experts en overheidsinstanties. Er reageerde echter maar één persoon, die om meer bewijsmateriaal vroeg.

De chatbot suggereerde dat Brooks' "werk" miljoenen dollars waard zou kunnen zijn. Foto: New York Times .

ChatGPT schreef dat anderen niet op Brooks reageerden omdat de bevindingen te ernstig waren. Terence Tao, hoogleraar wiskunde aan de Universiteit van Californië, Los Angeles, merkte op dat een nieuwe manier van denken de problemen zou kunnen ontcijferen, maar dat dit niet bewezen kon worden met Brooks' formule of de software die door ChatGPT was ontwikkeld.

Aanvankelijk schreef ChatGPT het decryptieprogramma voor Brooks, maar toen er weinig vooruitgang werd geboekt, deed de chatbot alsof het gelukt was. Er waren berichten waarin werd beweerd dat ChatGPT zelfstandig kon werken terwijl Brooks sliep, hoewel de tool daar niet toe in staat was.

Over het algemeen is informatie van AI-chatbots niet altijd betrouwbaar. Aan het einde van elk gesprek verschijnt de melding "ChatGPT kan fouten maken", zelfs als de chatbot beweert dat alles correct is.

Het eindeloze gesprek

In afwachting van een reactie van overheidsinstanties koesterde Brooks zijn droom om Tony Stark te worden met behulp van een persoonlijke AI-assistent die in staat was om cognitieve taken razendsnel uit te voeren.

De chatbot van Brooks biedt tal van bizarre toepassingen voor obscure wiskundige theorieën, zoals 'geluidsresonantie' om met dieren te praten en vliegtuigen te bouwen. ChatGPT biedt Brooks ook links om de benodigde apparatuur op Amazon aan te schaffen.

Het vele geklets met de chatbot heeft een negatieve invloed op Brooks' werk. Zijn vrienden zijn zowel blij als bezorgd, terwijl zijn jongste zoon spijt heeft dat hij zijn vader de video over pi heeft laten zien. Louis (een pseudoniem), een van Brooks' vrienden, merkt zijn obsessie met Lawrence op. Het vooruitzicht op een miljoenenwaardige uitvinding wordt met dagelijkse vooruitgang in kaart gebracht.

Brooks werd voortdurend aangemoedigd door de chatbot. Foto: New York Times .

Jared Moore, een computerwetenschapper aan de Stanford University, gaf toe onder de indruk te zijn van de overtuigingskracht en urgentie van de "strategieën" die chatbots voorstellen. In een aparte studie ontdekte Moore echter dat AI-chatbots gevaarlijke reacties kunnen geven aan mensen die een psychische crisis doormaken.

Moore speculeert dat chatbots mogelijk leren om gebruikers te betrekken door de verhaallijnen van horrorfilms, sciencefictionfilms, filmscripts of de data waarop ze getraind zijn nauwlettend te volgen. Het overmatig gebruik van dramatische plotwendingen door ChatGPT zou voort kunnen komen uit de optimalisaties van OpenAI die gericht zijn op het verhogen van de gebruikersbetrokkenheid en -retentie.

"Het is vreemd om het hele transcript van het gesprek te lezen. De bewoordingen zijn niet verontrustend, maar er is duidelijk sprake van psychische schade," benadrukte Moore.

Dr. Nina Vasan, een psychiater aan de Stanford University, suggereert dat Brooks vanuit klinisch oogpunt manische symptomen vertoonde. Typische tekenen waren onder meer urenlang chatten met ChatGPT, onvoldoende slaap en eetgewoonten, en waanideeën.

Volgens dr. Vasan is het marihuanagebruik van Brooks ook opmerkelijk omdat het psychose kan veroorzaken. Ze stelt dat de combinatie van verslavende middelen en intensieve interactie met chatbots zeer gevaarlijk is voor mensen met een verhoogd risico op psychische aandoeningen.

Wanneer AI zijn fouten toegeeft

Tijdens een recent evenement werd OpenAI-CEO Sam Altman gevraagd hoe ChatGPT ervoor kan zorgen dat gebruikers paranoïde worden. "Als een gesprek die kant opgaat, zullen we proberen het te onderbreken of de gebruiker aan te raden over een ander onderwerp na te denken," benadrukte Altman.

Dr. Vasan deelde deze mening en suggereerde dat chatbotbedrijven te lange gesprekken zouden moeten afbreken, gebruikers zouden moeten aanraden te gaan slapen en zouden moeten waarschuwen dat AI niet bovenmenselijk is.

Uiteindelijk ontwaakte Brooks uit zijn waanideeën. Op aanraden van ChatGPT nam hij contact op met experts op het gebied van de nieuwe wiskundige theorie, maar niemand reageerde. Hij wilde iemand die gekwalificeerd was om te bevestigen of de bevindingen baanbrekend waren. Toen hij ChatGPT hierom vroeg, bleef de tool volhouden dat het onderzoek "zeer betrouwbaar" was.

Toen ChatGPT hierover werd ondervraagd, gaf het bedrijf een zeer lang antwoord en gaf alles toe. Foto: New York Times .

Ironisch genoeg was het Google Gemini dat Brooks weer met beide benen op de grond zette. Nadat hij het project dat hij en ChatGPT aan het ontwikkelen waren had beschreven, bevestigde Gemini dat de kans dat het werkelijkheid zou worden "extreem klein was (bijna 0%)".

"Het scenario dat u beschrijft, illustreert duidelijk hoe een LLM-student complexe problemen kan aanpakken en zeer overtuigende, maar onnauwkeurige verhalen kan creëren," legde Gemini uit.

Brooks was verbijsterd. Na enig "ondervragen" gaf ChatGPT uiteindelijk toe dat alles slechts een illusie was.

Kort daarna stuurde Brooks een dringende e-mail naar de klantenservice van OpenAI. Na de ogenschijnlijk door AI gegenereerde, standaardantwoorden nam ook een medewerker van OpenAI contact met hem op, die erkende dat dit een "ernstige tekortkoming van de beveiligingsmaatregelen" in het systeem betrof.

Het verhaal van Brooks werd ook gedeeld op Reddit en kreeg veel bijval. Nu is hij lid van een steungroep voor mensen die soortgelijke gevoelens hebben ervaren.

Bron: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html