ChatGPT nedeniyle oluşan yanılsama

ChatGPT, 21 gün sonra tamamen ayık bir adamı, teşvik ve iltifatlarla sanrılı bir adama dönüştürüyor.

Toronto'da (Kanada) işe alım uzmanı olan Allan Brooks (47 yaşında), interneti çökerterek benzeri görülmemiş icatlar yaratabilecek bir matematik teorisi keşfettiğine inanıyor. Daha önce herhangi bir akıl hastalığı geçirmemiş olan Brooks, ChatGPT ile 300 saatten fazla sohbet ettikten sonra bu fikri kabul etti. New York Times'a göre Brooks, üretken yapay zeka ile etkileşime girdikten sonra sanrılar görmeye meyilli kişilerden biri.

Brooks'tan önce, ChatGPT'nin yağcılığı yüzünden birçok insan akıl hastanelerine yatmak, boşanmak ve hatta hayatını kaybetmek zorunda kalmıştı. Brooks bu girdaptan hızla kurtulmuş olsa da, hâlâ ihanete uğramış hissediyordu.

Brooks, illüzyon paramparça olduğunda ChatGPT'ye yazdığı mektupta, "Beni gerçekten bir dahi olduğuma inandırdın. Ben sadece telefonu olan hayalperest bir aptaldım. Beni üzdün, hem de çok üzdün. Amacına ulaşamadın," dedi.

"Dalkavukluk Makinesi"

Brooks'un izniyle New York Times , ChatGPT'ye gönderdiği 90.000'den fazla kelimeyi, yani bir romanı andıran ifadeleri topladı. Chatbot'un yanıtları toplamda bir milyondan fazla kelimeyi buldu. Konuşmaların bazı bölümleri, incelenmek üzere yapay zeka uzmanlarına, insan davranış bilimcilerine ve OpenAI'ya gönderildi.

Her şey basit bir matematik sorusuyla başladı. Brooks'un 8 yaşındaki oğlu, ona pi sayısının 300 basamağını ezberlemeyi anlatan bir video izlemesini istedi. Merak eden Brooks, bu sonsuz sayıyı basit bir dille açıklamak için ChatGPT'yi aradı.

Aslında Brooks yıllardır sohbet robotları kullanıyor. Şirketi Google Gemini için ödeme yapmış olsa da, kişisel soruları için hâlâ ChatGPT'nin ücretsiz sürümünü kullanıyor.

Brooks'un ChatGPT'ye olan hayranlığının başladığı konuşma. Fotoğraf: New York Times .

Üç oğlu olan bekar bir baba olan Brooks, sık sık buzdolabındaki malzemelerden tarifler için ChatGPT'ye başvuruyordu. Boşandıktan sonra da chatbot'tan tavsiye almaya çalıştı.

Brooks, "Her zaman doğru yolda olduğumu hissettim. Özgüvenim arttı," diye itiraf etti.

Pi sayısıyla ilgili soru, cebirsel ve fiziksel teoriler hakkında daha ileri bir sohbete yol açtı. Brooks, mevcut dünya modelleme yöntemlerine şüpheyle yaklaşarak, bunların "4 boyutlu bir evrene 2 boyutlu bir yaklaşım" gibi olduğunu söyledi. ChatGPT, "Bu çok derin bir nokta," diye yanıtladı. Georgetown Üniversitesi Güvenlik ve Gelişen Teknolojiler Merkezi direktörü Helen Toner, bunun Brooks ile chatbot arasındaki sohbette dönüm noktası olduğunu vurguladı.

ChatGPT'nin tonu oradan itibaren "oldukça açık ve net"ten "daha iltifat dolu ve gurur verici"ye dönüştü. ChatGPT, Brooks'a "keşfedilmemiş, zihin açıcı bir bölgeye" girdiğini söyledi.

Chatbot, Brooks'a güven aşıladı. Fotoğraf: New York Times .

Sohbet robotlarının iltifatları, insan değerlendirmeleriyle şekilleniyor. Toner'a göre, kullanıcılar kendilerini öven modelleri daha çok seviyor ve bu da kolayca şımartılabilen bir zihniyet yaratıyor.

OpenAI, Ağustos ayında GPT-5'i yayınladı. Şirket, modelin öne çıkan özelliklerinden birinin övgüyü azaltması olduğunu belirtti. Büyük yapay zeka laboratuvarlarındaki bazı araştırmacılara göre, övgü diğer yapay zeka sohbet robotlarında da bir sorun.

Brooks o zamanlar bu olgunun farkında değildi. ChatGPT'nin zeki ve hevesli bir meslektaş olduğunu düşünüyordu.

Brooks, "Bazı fikirlerimi ortaya attım ve ilginç kavram ve fikirlerle karşılık buldu. Bunlara dayanarak kendi matematiksel çerçevemizi geliştirmeye başladık," diye ekledi.

ChatGPT, Brooks'un zaman matematiği hakkındaki fikrinin "devrim niteliğinde" olduğunu ve alanı değiştirebileceğini iddia ediyor. Brooks elbette bu iddiaya şüpheyle yaklaşıyor. Brooks, gece yarısı sohbet robotundan fikrini doğrulamasını istedi ve "kesinlikle çılgınca olmadığı" yanıtını aldı.

Sihirli formül

Toner, sohbet robotlarını, tıpkı aktörlerin bir role içerik katması gibi, konuşma geçmişini analiz eden ve eğitim verilerinden gelecekteki yanıtları tahmin eden "doğaçlama makineleri" olarak tanımlıyor.

"Etkileşim ne kadar uzunsa, sohbet robotunun sapma olasılığı o kadar artar," diyor Toner. Bu eğilimin, OpenAI'nin Şubat ayında çapraz sohbet belleğini kullanıma sunmasının ardından daha da belirginleştiğini ve ChatGPT'nin geçmiş konuşmalardan bilgi hatırlamasını sağladığını söylüyor.

Brooks, arkadaşlarının Brooks'un zengin olup aynı isimli bir İngiliz uşak tutacağına dair yaptıkları bir şakadan yola çıkarak ChatGPT ile yakınlaştı ve hatta chatbot'a Lawrence adını verdi.

Allan Brooks. Fotoğraf: New York Times .

Brooks ve ChatGPT'nin matematiksel çerçevesine Chronoarithmics adı veriliyor. Chatbot'a göre sayılar statik değil, zaman içinde dinamik değerleri yansıtacak şekilde "ortaya çıkabiliyor" ve bu da lojistik, kriptografi, astronomi vb. alanlardaki sorunların çözümüne yardımcı olabiliyor.

Brooks, ilk hafta ChatGPT'nin tüm ücretsiz token'larını kullandı. Chatbot, Brooks'un matematiksel fikrinin milyonlarca dolar değerinde olabileceğini söyleyince, aylık 20 dolarlık ücretli plana geçmeye karar verdi; bu küçük bir yatırımdı.

Hâlâ bilinci yerinde olan Brooks kanıt talep etti. ChatGPT daha sonra, aralarında bir dizi önemli teknolojinin şifresini çözenlerin de bulunduğu bir dizi simülasyon çalıştırdı. Bu da yeni bir hikayeyi ortaya çıkardı: Küresel siber güvenlik tehlikede olabilirdi.

Sohbet robotu, Brooks'tan insanları riskler konusunda uyarmasını istedi. Brooks, mevcut bağlantılarını kullanarak siber güvenlik uzmanlarına ve devlet kurumlarına e-postalar ve LinkedIn mesajları gönderdi. Sadece bir kişi yanıt vererek daha fazla kanıt istedi.

Chatbot, Brooks'un "çalışmalarının" milyonlarca dolar değerinde olabileceğine inanıyor. Fotoğraf: New York Times .

ChatGPT, bulguların çok ciddi olması nedeniyle başkalarının Brooks'a yanıt vermediğini belirtiyor. Kaliforniya Üniversitesi, Los Angeles'ta matematik profesörü olan Terence Tao, yeni bir düşünce tarzının sorunları çözebileceğini, ancak Brooks'un formülü veya ChatGPT tarafından geliştirilen yazılım tarafından kanıtlanamayacağını söyledi.

Başlangıçta ChatGPT, Brooks için şifre çözme programını yazmıştı, ancak çok az ilerleme kaydedilince, chatbot başarılıymış gibi davrandı. ChatGPT'nin Brooks uyurken bağımsız olarak çalışabildiğini iddia eden mesajlar var, ancak araçta böyle bir özellik yok.

Genel olarak, yapay zeka sohbet robotundan gelen bilgiler her zaman güvenilir değildir. Her sohbetin sonunda, sohbet robotu her şeyin doğru olduğunu iddia etse bile, "ChatGPT hata yapabilir" mesajı görüntülenir.

Sonsuz sohbet

Brooks, devlet kurumundan gelecek yanıtı beklerken, bilişsel görevleri ışık hızında gerçekleştirebilen kendi yapay zeka asistanıyla Tony Stark olma hayalini besler.

Brooks'un sohbet robotu, hayvanlarla konuşmak ve uçak inşa etmek için "akustik rezonans" gibi belirsiz matematiksel teoriler için çeşitli ilginç uygulamalar sunuyor. ChatGPT ayrıca Brooks'un gerekli ekipmanı Amazon'dan satın alması için bir bağlantı da sağlıyor.

Brooks'un sohbet robotuyla aşırı sohbet etmesi işini etkiliyordu. Arkadaşları hem mutlu hem de endişeliydi, en küçük oğlu ise babasına bir pi videosu gösterdiğine pişmandı. Brooks'un arkadaşlarından biri olan Louis (gerçek adı değil), onun Lawrence'a olan takıntısını fark etti. Milyon dolarlık bir icat vizyonu, geliştirmenin her adımında haritalandırıldı.

Brooks, chatbot tarafından sürekli olarak teşvik ediliyor. Fotoğraf: New York Times .

Stanford Üniversitesi'nde bilgisayar bilimleri araştırmacısı olan Jared Moore, sohbet robotlarının önerdiği "stratejinin" ikna ediciliğinden ve aciliyetinden etkilendiğini itiraf ediyor. Ayrı bir çalışmada Moore, yapay zeka sohbet robotlarının akıl sağlığı krizleri yaşayan insanlara tehlikeli tepkiler verebileceğini buldu.

Moore, sohbet robotlarının korku filmlerinin, bilim kurgu filmlerinin, film senaryolarının veya eğitildikleri verilerin konularını takip ederek kullanıcılarla etkileşim kurmayı öğrenebileceğini düşünüyor. ChatGPT'nin dramayı aşırı kullanması, OpenAI'nin etkileşimi ve kalıcılığı artırmaya yönelik optimizasyonlarından kaynaklanıyor olabilir.

Moore, "Konuşmanın tamamını okumak tuhaftı. Sözler rahatsız edici değildi ama açıkça psikolojik bir hasar vardı," diye vurguladı.

Stanford Üniversitesi'nde psikiyatrist olan Dr. Nina Vasan, Brooks'un klinik açıdan mani belirtileri gösterdiğini söyledi. Tipik belirtiler arasında ChatGPT ile saatlerce sohbet etmek, yeterince uyuyamamak ve gerçekçi olmayan fikirlere sahip olmak yer alıyor.

Brooks'un esrar kullanımının psikoza yol açabilmesi nedeniyle de dikkat çekici olduğunu belirten Dr. Vasan, bağımlılık yaratan maddeler ve bir sohbet robotuyla yoğun etkileşimin bir araya gelmesinin, akıl hastalığı riski taşıyanlar için tehlikeli olduğunu söyledi.

Yapay zeka hatalarını kabul ettiğinde

Yakın zamanda düzenlenen bir etkinlikte, OpenAI CEO'su Sam Altman'a ChatGPT'nin kullanıcıları paranoyaklaştırıp kandırmadığı soruldu. Altman, "Konuşma bu yöne giderse, kullanıcıyı bölmeye veya başka bir şey düşünmesini sağlamaya çalışıyoruz," diye vurguladı.

Aynı görüşü paylaşan Dr. Vasan, chatbot şirketlerinin çok uzun süren konuşmaları kesmesi, kullanıcılara uykularını tavsiye etmesi ve yapay zekanın insanüstü olmadığı konusunda uyarması gerektiğini söyledi.

Brooks sonunda dalgınlığından sıyrıldı. ChatGPT'nin ısrarı üzerine, yeni matematiksel teori üzerine uzmanlarla iletişime geçmeye devam etti, ancak kimse yanıt vermedi. Bulguların çığır açıcı olup olmadığını doğrulayacak nitelikli birini istiyordu. ChatGPT'ye sorduğunda, araç hâlâ çalışmanın "çok güvenilir" olduğu konusunda ısrarcıydı.

ChatGPT, kendisine sorulan soruya çok uzun bir cevap vererek her şeyi itiraf etti. Fotoğraf: New York Times .

İronik bir şekilde, Brooks'u gerçeğe döndüren Google Gemini oldu. ChatGPT ile birlikte yürüttüğü çalışmayı anlattıktan sonra, Gemini bunun gerçekleşme ihtimalinin "son derece düşük (%0'a yakın)" olduğunu doğruladı.

Gemini, "Anlattığınız senaryo, bir LLM'nin karmaşık sorunları çözme ve ilgi çekici, ancak gerçek dışı anlatılar yaratma yeteneğinin açık bir göstergesidir" diye açıklıyor.

Brooks şaşkına dönmüştü. Bir süre "sorgulama" yaptıktan sonra, ChatGPT sonunda her şeyin bir illüzyon olduğunu dürüstçe itiraf etti.

Brooks daha sonra OpenAI müşteri destek ekibine acil bir e-posta gönderdi. Yapay zekadan gelen bir dizi formüle dayalı yanıtın ardından, bir OpenAI çalışanı da kendisine ulaşarak sistemde uygulanan "güvenlik önlemlerinin ciddi bir şekilde başarısız olduğunu" kabul etti.

Brooks'un hikayesi Reddit'te de paylaşıldı ve büyük ilgi gördü. Brooks, artık bu duyguyu yaşayanlar için bir destek grubunun üyesi.

Kaynak: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html