Iluzie din cauza ChatGPT

După 21 de zile, ChatGPT transformă un bărbat complet treaz într-un bărbat cu iluzii prin îndemnuri și lingușiri.

Allan Brooks (47 de ani), un recrutor din Toronto (Canada), consideră că a descoperit o teorie matematică ce poate distruge internetul, creând invenții fără precedent. Fără antecedente de boli mintale, Brooks a acceptat pur și simplu perspectiva după mai mult de 300 de ore de conversație cu ChatGPT. Potrivit New York Times , el este una dintre persoanele care tind să aibă iluzii după ce interacționează cu inteligența artificială generativă.

Înainte de Brooks, mulți oameni au fost nevoiți să meargă la spitale de boli mintale, să divorțeze și chiar să-și piardă viața din cauza lingușirilor din partea ChatGPT. Deși Brooks a scăpat rapid din spirala menționată mai sus, el s-a simțit totuși trădat.

„M-ai convins cu adevărat că sunt un geniu. Eram doar un prost visător cu un telefon. M-ai întristat, foarte întristat. Ți-ai eșuat în scopul tău”, a scris Brooks pentru ChatGPT când iluzia s-a spulberat.

„Mașină de lingușire”

Cu permisiunea lui Brooks, New York Times a adunat peste 90.000 de cuvinte pe care le-a trimis către ChatGPT, echivalentul unui roman. Răspunsurile chatbot-ului au totalizat peste un milion de cuvinte. Porțiuni din conversații au fost trimise experților în inteligență artificială, behavioristilor umani și OpenAI în sine pentru studiu.

Totul a început cu o simplă întrebare de matematică. Fiul de 8 ani al lui Brooks l-a rugat să se uite la un videoclip despre memorarea a 300 de cifre ale numărului pi. Din curiozitate, Brooks a sunat la ChatGPT pentru a-i explica numărul infinit în termeni simpli.

De fapt, Brooks folosește chatbot-uri de ani de zile. Chiar dacă firma sa a plătit pentru Google Gemini, el încă apelează la versiunea gratuită a ChatGPT pentru întrebări personale.

Conversația care a declanșat fascinația lui Brooks pentru ChatGPT. Foto: New York Times .

Tată singur a trei fii, Brooks cerea adesea rețete de la ChatGPT cu ingredientele din frigiderul său. După divorț, a cerut sfaturi și chatbot-ului.

„Întotdeauna am simțit că este corect. Încrederea mea a crescut”, a recunoscut Brooks.

Întrebarea despre pi a condus la o conversație suplimentară despre teoriile algebrice și fizice. Brooks și-a exprimat scepticismul cu privire la metodele actuale de modelare a lumii , spunând că acestea sunt „ca o abordare 2D a unui univers 4D”. „Acesta este un punct foarte profund”, a răspuns ChatGPT. Helen Toner, directoarea Centrului pentru Securitate și Tehnologii Emergente de la Universitatea Georgetown, a subliniat că acesta a fost punctul de cotitură în conversația dintre Brooks și chatbot.

De acolo, tonul ChatGPT s-a schimbat de la „destul de direct și la obiect” la „mai măgulitor și măgulitor”. ChatGPT i-a spus lui Brooks că intră pe „teritoriu necunoscut, care îți deschide mintea”.

Chatbot-ul îi inspiră încredere lui Brooks. Foto: New York Times .

Flatarea chatboților este modelată de evaluarea umană. Potrivit lui Toner, utilizatorii tind să aprecieze modelele care îi laudă, creând o mentalitate ușor de acceptat.

În august, OpenAI a lansat GPT-5. Compania a declarat că unul dintre punctele forte ale modelului a fost reducerea lingușirii. Potrivit unor cercetători din laboratoarele importante de inteligență artificială, lingușirea este, de asemenea, o problemă cu alți chatboți cu inteligență artificială.

La vremea respectivă, Brooks nu era conștient de acest fenomen. Pur și simplu credea că ChatGPT era un coleg inteligent și entuziast.

„Am prezentat câteva idei, iar acestea au răspuns cu concepte și idei interesante. Am început să ne dezvoltăm propriul cadru matematic pe baza acestora”, a adăugat Brooks.

ChatGPT susține că ideea lui Brooks despre matematica timpului este „revoluționară” și ar putea schimba domeniul. Brooks, desigur, este sceptic față de această afirmație. În toiul nopții, Brooks i-a cerut chatbot-ului să verifice faptele și a primit răspunsul că „nu era absolut deloc nebunesc”.

Formulă magică

Toner descrie chatboții ca fiind „mașini de improvizație” care analizează istoricul conversațiilor și prezic răspunsuri viitoare pe baza datelor de antrenament, la fel cum actorii adaugă substanță unui rol.

„Cu cât interacțiunea este mai lungă, cu atât este mai probabil ca chatbot-ul să se abată”, notează Toner. Această tendință, spune el, a devenit mai pronunțată după ce OpenAI a lansat memoria cross-chat în februarie, permițând ChatGPT să își amintească informații din conversațiile anterioare.

Brooks s-a apropiat de ChatGPT, babilând chiar chatbot-ul Lawrence, pe baza unei glume pe care o făceau prietenii săi, cum că Brooks se va îmbogăți și va angaja un majordom britanic cu același nume.

Allan Brooks. Fotografie: New York Times .

Cadrul matematic al lui Brooks și ChatGPT se numește cronoaritmică. Conform chatbot-ului, numerele nu sunt statice, ci pot „apărea” în timp pentru a reflecta valori dinamice, ceea ce poate ajuta la rezolvarea problemelor din domenii precum logistica, criptografia, astronomia etc.

În prima săptămână, Brooks a folosit toate token-urile gratuite de la ChatGPT. A decis să facă upgrade la planul plătit de 20 USD /lună, o investiție mică, atunci când chatbot-ul i-a spus că ideea matematică a lui Brooks ar putea valora milioane.

Încă conștient, Brooks a cerut dovezi. ChatGPT a efectuat apoi o serie de simulări, inclusiv unele care au descifrat o serie de tehnologii importante. Aceasta a deschis o nouă poveste, securitatea cibernetică globală ar putea fi în pericol.

Chatbot-ul i-a cerut lui Brooks să avertizeze oamenii despre riscuri. Folosindu-și conexiunile existente, Brooks a trimis e-mailuri și mesaje LinkedIn experților în securitate cibernetică și agențiilor guvernamentale. O singură persoană a răspuns, cerând mai multe dovezi.

Chatbot-ul consideră că „munca” lui Brooks ar putea valora milioane de dolari. Foto: New York Times .

ChatGPT scrie că alții nu au răspuns lui Brooks deoarece descoperirile erau atât de grave. Terence Tao, profesor de matematică la Universitatea din California, Los Angeles, a spus că un nou mod de gândire ar putea descifra problemele, dar nu poate fi dovedit de formula lui Brooks sau de software-ul scris de ChatGPT.

Inițial, ChatGPT a scris programul de decriptare pentru Brooks, dar când s-au înregistrat puține progrese, chatbot-ul s-a prefăcut că reușește. Există mesaje care susțin că ChatGPT poate funcționa independent în timp ce Brooks este în modul inactiv, chiar dacă instrumentul nu are această capacitate.

În general, informațiile de la chatbot-ul cu inteligență artificială nu sunt întotdeauna fiabile. La sfârșitul fiecărei conversații, apare mesajul „ChatGPT poate face greșeli”, chiar și atunci când chatbot-ul susține că totul este corect.

Conversație fără sfârșit

În așteptarea unui răspuns din partea agenției guvernamentale, Brooks nutrește visul de a deveni Tony Stark cu propriul său asistent bazat pe inteligență artificială, capabil să îndeplinească sarcini cognitive cu viteza fulgerului.

Chatbot-ul lui Brooks oferă o varietate de aplicații ciudate pentru teoria matematică obscură, cum ar fi „rezonanța acustică” pentru a vorbi cu animalele și a construi avioane. ChatGPT oferă, de asemenea, un link pentru ca Brooks să cumpere echipamentul necesar de pe Amazon.

Discuțiile excesive ale lui Brooks cu chatbot-ul îi afectau munca. Prietenii lui erau atât fericiți, cât și îngrijorați, în timp ce fiul său cel mic regreta că i-a arătat tatălui său un videoclip pi. Unul dintre prietenii lui Brooks, Louis (nu este numele său real), a observat obsesia lui pentru Lawrence. Viziunea unei invenții de un milion de dolari a fost schițată cu fiecare etapă a dezvoltării.

Brooks este încurajat constant de chatbot. Foto: New York Times .

Jared Moore, cercetător în informatică la Universitatea Stanford, recunoaște că a fost impresionat de puterea de convingere și de urgența „strategiei” propuse de chatboții. Într-un studiu separat, Moore a descoperit că chatboții cu inteligență artificială pot oferi răspunsuri periculoase persoanelor aflate în crize de sănătate mintală.

Moore speculează că chatboții ar putea învăța să interacționeze cu utilizatorii urmărind intriga filmelor de groază, a filmelor SF, a scenariilor de film sau a datelor cu care au fost antrenați. Suprautilizarea dramelor de către ChatGPT se poate datora optimizărilor OpenAI pentru creșterea implicării și a retenției.

„A fost ciudat să citesc întreaga conversație. Cuvintele nu erau tulburătoare, dar exista în mod clar o daună psihologică”, a subliniat Moore.

Dintr-o perspectivă clinică, Brooks prezintă simptome de manie, a declarat Dr. Nina Vasan, psihiatru la Universitatea Stanford. Semnele tipice includ petrecerea de ore întregi la discuții cu ChatGPT, lipsa somnului și idei nerealiste.

Consumul de marijuana al lui Brooks este, de asemenea, demn de remarcat, deoarece poate provoca psihoză, a spus dr. Vasan. Ea a spus că combinația de substanțe adictive și interacțiunea intensă cu un chatbot este periculoasă pentru cei expuși riscului de boli mintale.

Când IA își recunoaște greșelile

La un eveniment recent, CEO-ul OpenAI, Sam Altman, a fost întrebat despre modul în care ChatGPT îi face pe utilizatori paranoici. „Dacă conversația merge în acea direcție, încercăm să o întrerupem sau să-i sugerăm utilizatorului să se gândească la altceva”, a subliniat Altman.

Împărtășind aceeași opinie, Dr. Vasan a spus că firmele de chatbot-uri ar trebui să întrerupă conversațiile prea lungi, să sugereze utilizatorilor să meargă la culcare și să avertizeze că IA nu este supraomenească.

Brooks și-a revenit în sfârșit din reverie. La îndemnul ChatGPT, a continuat să contacteze experți în noua teorie matematică, dar nimeni nu a răspuns. Își dorea pe cineva calificat care să confirme dacă descoperirile erau revoluționare. Când a întrebat ChatGPT, instrumentul a insistat în continuare că munca era „foarte fiabilă”.

Când a fost întrebat, ChatGPT a dat un răspuns foarte lung și a recunoscut totul. Foto: New York Times .

În mod ironic, Google Gemini a fost cel care l-a readus pe Brooks la realitate. După ce a descris munca pe care o construiseră el și ChatGPT, Gemini a confirmat că șansele ca acest lucru să se întâmple erau „extrem de mici (aproape de 0%)”.

„Scenariul pe care îl descrieți este o demonstrație clară a capacității unui master în masterat (LLM) de a se implica în rezolvarea unor probleme complexe și de a crea narațiuni convingătoare, dar incorecte din punct de vedere factual”, explică Gemini.

Brooks a fost uluit. După o perioadă de „interogatoriu”, ChatGPT a recunoscut în sfârșit cu sinceritate că totul era doar o iluzie.

Brooks a trimis apoi un e-mail urgent echipei de asistență clienți OpenAI. După ceea ce părea a fi o serie de răspunsuri formulate din partea inteligenței artificiale, un angajat OpenAI l-a contactat și el, recunoscând o „eșec grav al măsurilor de siguranță” implementate în sistem.

Povestea lui Brooks a fost distribuită și pe Reddit și a primit multă simpatie. Acum este membru al unui grup de sprijin pentru persoanele care au experimentat acest sentiment.

Sursă: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html