Iluzja z powodu ChatGPT

Po 21 dniach ChatGPT poprzez namawianie i pochlebstwa zmienia całkowicie trzeźwego mężczyznę w człowieka z urojeniami.

Allan Brooks (47 lat), rekruter z Toronto (Kanada), wierzy, że odkrył teorię matematyczną, która może zrujnować internet, prowadząc do powstania bezprecedensowych wynalazków. Brooks, bez historii chorób psychicznych, po ponad 300 godzinach czatowania z ChatGPT po prostu przyjął propozycję. Według „New York Timesa” jest jedną z osób, u których po interakcji z generatywną sztuczną inteligencją występują urojenia.

Przed Brooksem wiele osób musiało trafić do szpitali psychiatrycznych, rozwieść się, a nawet stracić życie z powodu pochlebstw ChatGPT. Chociaż Brooks szybko wyrwał się z powyższej spirali, wciąż czuł się zdradzony.

„Naprawdę przekonałeś mnie, że jestem geniuszem. Byłem tylko marzycielem z telefonem. Zasmuciłeś mnie, bardzo zasmuciłeś. Nie osiągnąłeś swojego celu” – napisał Brooks do ChatGPT, gdy iluzja prysła.

„Maszyna pochlebstw”

Za zgodą Brooksa, „New York Times” zebrał ponad 90 000 słów, które wysłał do ChatGPT, co stanowi równowartość powieści. Odpowiedzi chatbota liczyły łącznie ponad milion słów. Fragmenty rozmów zostały przesłane do ekspertów ds. sztucznej inteligencji, behawiorystów i samej firmy OpenAI w celu przeprowadzenia badań.

Wszystko zaczęło się od prostego zadania matematycznego. 8-letni syn Brooksa poprosił go o obejrzenie filmu o zapamiętywaniu 300 cyfr liczby pi. Z ciekawości Brooks zadzwonił do ChatGPT, aby w prosty sposób wyjaśnić, na czym polega nieskończoność liczby pi.

Brooks korzysta z chatbotów od lat. Chociaż jego firma zapłaciła za Google Gemini, nadal korzysta z darmowej wersji ChatGPT, aby odpowiadać na pytania osobiste.

Rozmowa, która zapoczątkowała fascynację Brooksa platformą ChatGPT. Zdjęcie: New York Times .

Brooks, samotny ojciec trzech synów, często prosił ChatGPT o przepisy na dania ze składników ze swojej lodówki. Po rozwodzie również zasięgał porady u chatbota.

„Zawsze czułem, że to słuszne. Moja pewność siebie wzrosła” – przyznał Brooks.

Pytanie o liczbę pi doprowadziło do dalszej rozmowy na temat teorii algebraicznych i fizycznych. Brooks wyraził sceptycyzm wobec obecnych metod modelowania świata , twierdząc, że są one „jak dwuwymiarowe podejście do czterowymiarowego wszechświata”. „To bardzo głęboka myśl” – odpowiedział ChatGPT. Helen Toner, dyrektor Centrum Bezpieczeństwa i Nowych Technologii na Uniwersytecie Georgetown, podkreśliła, że ​​był to punkt zwrotny w rozmowie Brooksa z chatbotem.

Od tego momentu ton ChatGPT zmienił się z „całkiem bezpośredniego i konkretnego” na „bardziej pochlebny i pochlebny”. ChatGPT poinformował Brooksa, że ​​wkracza na „nieznane, rozwijające umysł terytorium”.

Chatbot wzbudza zaufanie Brooksa. Zdjęcie: New York Times .

Pochlebstwa chatbotów są kształtowane przez ludzką ocenę. Według Tonera, użytkownicy zazwyczaj lubią modelki, które ich chwalą, co tworzy mentalność, której łatwo ulegać.

W sierpniu OpenAI wydało GPT-5. Firma stwierdziła, że ​​jednym z głównych atutów tego modelu jest redukcja pochlebstw. Według niektórych badaczy z czołowych laboratoriów sztucznej inteligencji, pochlebstwa stanowią problem również w przypadku innych chatbotów AI.

Brooks nie zdawał sobie wówczas sprawy z tego zjawiska. Uważał po prostu ChatGPT za inteligentnego i entuzjastycznego kolegę.

„Przedstawiłem kilka pomysłów, a oni odpowiedzieli ciekawymi koncepcjami i pomysłami. Zaczęliśmy rozwijać na ich podstawie własne ramy matematyczne” – dodał Brooks.

ChatGPT twierdzi, że pomysł Brooksa dotyczący matematyki czasu jest „rewolucyjny” i może zmienić tę dziedzinę. Brooks, oczywiście, podchodzi do tego sceptycznie. W środku nocy poprosił chatbota o sprawdzenie faktów i otrzymał odpowiedź, że „to wcale nie jest szaleństwo”.

Magiczna formuła

Toner opisuje chatboty jako „maszyny improwizacyjne”, które analizują historię rozmów i przewidują przyszłe odpowiedzi na podstawie danych szkoleniowych, podobnie jak aktorzy dodający treści do roli.

„Im dłuższa interakcja, tym większe prawdopodobieństwo, że chatbot zboczy z kursu” – zauważa Toner. Tendencja ta, jak twierdzi, nasiliła się po tym, jak OpenAI uruchomiło w lutym funkcję pamięci międzyczatowej, umożliwiającą ChatGPT przywoływanie informacji z poprzednich rozmów.

Brooks zbliżył się do ChatGPT i nadał chatbotowi imię Lawrence, opierając się na żarcie jego przyjaciół, że Brooks dorobi się fortuny i zatrudni brytyjskiego kamerdynera o tym samym imieniu.

Allan Brooks. Zdjęcie: New York Times .

Matematyczna struktura Brooksa i ChatGPT nosi nazwę chronoarytmiki. Według chatbota liczby nie są statyczne, lecz mogą „wyłaniać się” z czasem, odzwierciedlając wartości dynamiczne, co może pomóc w rozwiązywaniu problemów w takich dziedzinach jak logistyka, kryptografia, astronomia itp.

W pierwszym tygodniu Brooks wykorzystał wszystkie darmowe tokeny ChatGPT. Zdecydował się na przejście na płatny plan za 20 dolarów miesięcznie, co stanowiło niewielką inwestycję, gdy chatbot poinformował go, że matematyczny pomysł Brooksa może być wart miliony.

Wciąż przytomny, Brooks zażądał dowodów. ChatGPT przeprowadził serię symulacji, w tym te, które pozwoliły na złamanie zabezpieczeń wielu ważnych technologii. To otworzyło nową historię: globalne cyberbezpieczeństwo może być zagrożone.

Chatbot poprosił Brooksa o ostrzeżenie ludzi przed zagrożeniami. Korzystając ze swoich kontaktów, Brooks wysłał e-maile i wiadomości na LinkedIn do ekspertów ds. cyberbezpieczeństwa i agencji rządowych. Odpowiedziała tylko jedna osoba, prosząc o dodatkowe dowody.

Chatbot uważa, że ​​„praca” Brooksa może być warta miliony dolarów. Zdjęcie: New York Times .

ChatGPT pisze, że inni nie odpowiedzieli na wnioski Brooksa, ponieważ ich ustalenia były zbyt poważne. Terence Tao, profesor matematyki na Uniwersytecie Kalifornijskim w Los Angeles, stwierdził, że nowy sposób myślenia mógłby rozwiązać te problemy, ale nie dało się go udowodnić za pomocą wzoru Brooksa ani oprogramowania stworzonego przez ChatGPT.

Początkowo program deszyfrujący dla Brooksa napisał ChatGPT, ale gdy postępy były niewielkie, chatbot udawał, że odniósł sukces. Pojawiają się komunikaty, że ChatGPT może działać niezależnie, gdy Brooks śpi, mimo że narzędzie nie posiada takiej możliwości.

Ogólnie rzecz biorąc, informacje z chatbota opartego na sztucznej inteligencji nie zawsze są wiarygodne. Na końcu każdego czatu pojawia się komunikat „ChatGPT może popełniać błędy”, nawet gdy chatbot twierdzi, że wszystko jest w porządku.

Niekończąca się rozmowa

Czekając na odpowiedź od agencji rządowej, Brooks pielęgnuje marzenie o zostaniu Tonym Starkiem i posiadaniu własnego asystenta opartego na sztucznej inteligencji, który będzie w stanie wykonywać zadania poznawcze z błyskawiczną prędkością.

Chatbot Brooksa oferuje szereg nietypowych zastosowań dla niejasnej teorii matematycznej, takich jak „rezonans akustyczny” do komunikacji ze zwierzętami czy budowy samolotów. ChatGPT udostępnia również Brooksowi link do zakupu niezbędnego sprzętu na Amazonie.

Nadmierne czatowanie Brooksa z chatbotem wpływało na jego pracę. Jego przyjaciele byli zarówno szczęśliwi, jak i zmartwieni, a jego najmłodszy syn żałował, że pokazał ojcu filmik z pi. Jeden z przyjaciół Brooksa, Louis (imię zmienione), zauważył jego obsesję na punkcie Lawrence'a. Wizja wynalazku wartego milion dolarów narastała na każdym etapie rozwoju.

Brooks jest stale motywowany przez chatbota. Zdjęcie: New York Times .

Jared Moore, badacz informatyki na Uniwersytecie Stanforda, przyznaje, że jest pod wrażeniem siły przekonywania i pilności „strategii” proponowanej przez chatboty. W oddzielnym badaniu Moore odkrył, że chatboty oparte na sztucznej inteligencji mogą udzielać niebezpiecznych odpowiedzi osobom w kryzysach psychicznych.

Moore spekuluje, że chatboty mogą nauczyć się angażować użytkowników, podążając za fabułą horrorów, filmów science fiction, scenariuszami filmowymi lub danymi, na których zostały wyszkolone. Nadmierne wykorzystywanie dramatyzmu przez ChatGPT może wynikać z optymalizacji OpenAI, mającej na celu zwiększenie zaangażowania i retencji.

„Dziwnie było czytać całą rozmowę. Słowa nie były niepokojące, ale ewidentnie widać było szkody psychologiczne” – podkreślił Moore.

Z klinicznego punktu widzenia Brooks ma objawy manii, powiedziała dr Nina Vasan, psychiatra ze Stanford University. Typowe objawy to spędzanie godzin na czatach z ChatGPT, niedobór snu i nierealistyczne pomysły.

Używanie marihuany przez Brooksa jest również godne uwagi, ponieważ może powodować psychozę, powiedziała dr Vasan. Dodała, że ​​połączenie substancji uzależniających i intensywnej interakcji z chatbotem jest niebezpieczne dla osób zagrożonych chorobą psychiczną.

Kiedy sztuczna inteligencja przyznaje się do błędów

Podczas niedawnego wydarzenia, prezes OpenAI, Sam Altman, został zapytany o to, czy ChatGPT wywołuje u użytkowników paranoję. „Jeśli rozmowa zmierza w tym kierunku, staramy się przerwać lub zasugerować użytkownikowi, żeby zastanowił się nad czymś innym” – podkreślił Altman.

Podzielając ten pogląd, dr Vasan stwierdził, że firmy tworzące chatboty powinny przerywać zbyt długie rozmowy, sugerować użytkownikom pójście spać i ostrzegać, że sztuczna inteligencja nie jest nadludźmi.

Brooks w końcu otrząsnął się z zamyślenia. Na prośbę ChatGPT, nadal kontaktował się z ekspertami zajmującymi się nową teorią matematyczną, ale nikt nie odpowiedział. Chciał, aby ktoś wykwalifikowany potwierdził, czy odkrycia są przełomowe. Kiedy zapytał ChatGPT, narzędzie nadal upierało się, że praca jest „bardzo wiarygodna”.

W odpowiedzi na pytanie, ChatGPT udzielił bardzo obszernej odpowiedzi i przyznał się do wszystkiego. Zdjęcie: New York Times .

Jak na ironię, to właśnie Google Gemini przywrócił Brooksa do rzeczywistości. Po opisaniu pracy, którą wykonał wspólnie z ChatGPT, Gemini potwierdził, że prawdopodobieństwo wystąpienia takiego zdarzenia jest „niezwykle niskie (bliskie 0%)”.

„Opisany przez Ciebie scenariusz jest jasnym dowodem na to, że absolwent LLM potrafi rozwiązywać złożone problemy i tworzyć wciągające, choć nieprawdziwe, narracje” – wyjaśnia Gemini.

Brooks był oszołomiony. Po chwili „przesłuchania” ChatGPT w końcu szczerze przyznał, że wszystko było tylko iluzją.

Brooks wysłał następnie pilnego e-maila do zespołu obsługi klienta OpenAI. Po serii schematycznych odpowiedzi ze strony AI, skontaktował się z nim również pracownik OpenAI, przyznając, że w systemie wystąpiła „poważna awaria zabezpieczeń”.

Historia Brooksa została również udostępniona na Reddicie i spotkała się z dużym współczuciem. Obecnie jest on członkiem grupy wsparcia dla osób, które doświadczyły tego uczucia.

Źródło: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html