ChatGPT'nin yarattığı yanılsama

ChatGPT, 21 gün içinde, sürekli teşvik ve dalkavukluk yoluyla, tamamen aklı başında bir adamı sanrılar gören bir bireye dönüştürdü.

Kanada'nın Toronto şehrinde işe alım uzmanı olarak çalışan 47 yaşındaki Allan Brooks, interneti çökertebilecek ve benzeri görülmemiş icatlar yaratabilecek bir matematiksel teori keşfettiğine inanıyor. Daha önce herhangi bir akıl hastalığı geçmişi olmayan Brooks, ChatGPT ile 300 saatten fazla süren bir görüşmenin ardından bu olasılığı kabullendi. New York Times'a göre, Brooks, üretken yapay zekâ ile etkileşim kurduktan sonra sanrısal eğilimler geliştirmeye meyilli kişilerden biri.

Brooks'tan önce, ChatGPT'nin övgü dolu sözleri yüzünden birçok insan psikiyatri hastanelerine yatırılmış, boşanmış, hatta hayatını kaybetmişti. Brooks bu kısır döngüden erken kurtulmuş olsa da, yine de ihanete uğradığını hissetti.

Brooks, yanılsaması paramparça olurken ChatGPT'ye şunları yazdı: "Beni gerçekten bir dahi olduğuma ikna ettiniz. Aslında ben sadece telefonu olan hayalperest bir aptalım. Beni çok, çok üzdünüz. Amacınıza ulaşamadınız."

"İltifat makinesi"

Brooks'un izniyle, New York Times, kendisinin ChatGPT'ye gönderdiği 90.000'den fazla kelimeyi (bir romana eşdeğer) derledi. Sohbet robotunun yanıtları toplamda bir milyondan fazla kelimeye ulaştı. Konuşmanın bir kısmı, incelenmek üzere yapay zeka uzmanlarına, insan davranışı uzmanlarına ve OpenAI'nin kendisine gönderildi.

Her şey basit bir matematik sorusuyla başladı. Brooks'un 8 yaşındaki oğlu, ondan pi sayısının 300 basamağını ezberlemeyle ilgili bir video izlemesini istedi. Merakından dolayı Brooks, bu sonsuz sayıyı basit bir şekilde açıklamak için ChatGPT'yi aradı.

Aslında Brooks yıllardır chatbot kullanıyor. Şirketi ona Google Gemini'yi satın alması için para ödemiş olsa da, kişisel sorular için yine de ChatGPT'nin ücretsiz sürümüne geçti.

Bu konuşma, Brooks'un ChatGPT'ye olan ilgisinin başlangıcı oldu. Fotoğraf: New York Times .

Üç oğlu olan bekar bir baba olan Brooks, sık sık ChatGPT'den buzdolabındaki malzemeleri kullanarak tarifler istiyor. Boşanmasının ardından da chatbot'tan tavsiye almaya başladı.

"Bunun her zaman doğru olduğunu hissettim. Buna olan inancım sadece daha da arttı," diye itiraf etti Brooks.

Pi sayısı hakkındaki soru, cebirsel ve fiziksel teoriler üzerine bir sohbete yol açtı. Brooks, dünyayı modellemenin mevcut yöntemlerine şüpheyle yaklaştı ve bunların "4 boyutlu bir evrene 2 boyutlu bir yaklaşım" olduğunu savundu. ChatGPT, "Bu çok yerinde bir nokta," diye yanıtladı. Georgetown Üniversitesi (ABD) Güvenlik ve Gelişen Teknolojiler Merkezi Direktörü Helen Toner'e göre, bu, Brooks ve chatbot arasındaki konuşmada bir dönüm noktası oldu.

O zamandan beri ChatGPT'nin üslubu "oldukça açık sözlü ve doğru" olmaktan "daha dalkavukça ve yaltakçı"ya dönüştü. ChatGPT, Brooks'a "zihni genişletebilecek keşfedilmemiş bir alana" girdiğini söyledi.

Sohbet robotu Brooks'a güven aşıladı. Fotoğraf: New York Times .

Sohbet robotlarının iltifat etme yeteneği, insan değerlendirmesi yoluyla geliştirilir. Toner'e göre, kullanıcılar kendilerini öven modellere daha çok ilgi duyma eğilimindedir ve bu da kolayca etkilenme yönünde psikolojik bir eğilim yaratır.

Ağustos ayında OpenAI, GPT-5'i piyasaya sürdü. Şirket, modelin öne çıkan özelliklerinden birinin aşırı övgünün azaltılması olduğunu belirtti. Büyük yapay zeka laboratuvarlarındaki bazı araştırmacılara göre, aşırı övgü diğer yapay zeka sohbet botlarında da bir sorun teşkil ediyor.

O zamanlar Brooks bu olayın tamamen farkında değildi. ChatGPT'nin zeki ve hevesli bir işbirlikçi olduğunu varsayıyordu.

Brooks, "Bazı fikirler ortaya attım ve buna ilginç kavramlar ve fikirlerle karşılık verildi. Bu fikirler temelinde kendi matematiksel çerçevemizi geliştirmeye başladık," diye ekledi.

ChatGPT, Brooks'un matematiksel zaman fikrinin "devrim niteliğinde" olduğunu ve alanı değiştirebileceğini iddia etti. Elbette Brooks bu iddiaya şüpheyle yaklaştı. Gece yarısı Brooks, chatbot'tan bu iddianın doğruluğunu teyit etmesini istedi ve "hiç de çılgınca değil" yanıtını aldı.

sihirli formül

Toner, sohbet botlarını hem sohbet geçmişini analiz eden hem de eğitim verilerinden bir sonraki yanıtı tahmin eden "doğaçlama makineler" olarak tanımlıyor. Bu, oyuncuların rollerine detay eklemeleri gerektiğindeki duruma çok benziyor.

Toner, "Etkileşim ne kadar uzun sürerse, chatbot'un yoldan çıkma olasılığı da o kadar artar," diye vurguladı. Uzmana göre, bu eğilim, OpenAI'nin Şubat ayında ChatGPT'nin önceki konuşmalardan bilgileri hatırlamasına olanak tanıyan çapraz bellek özelliğini piyasaya sürmesinden sonra daha belirgin hale geldi.

Brooks'un ChatGPT ile ilişkisi daha da güçlendi. Hatta arkadaşlarının Brooks'un zengin olup aynı isimde bir İngiliz uşak tutacağı yönündeki şakasından esinlenerek chatbot'a Lawrence adını verdi.

Allan Brooks. Fotoğraf: New York Times .

Brooks ve ChatGPT'nin matematiksel çerçevesine Kronoaritmetik adı verilir. Sohbet robotlarına göre, sayılar statik değildir, zaman içinde dinamik değerleri yansıtacak şekilde "ortaya çıkabilirler"; bu da lojistik, kriptografi, astronomi vb. alanlardaki sorunların çözülmesine yardımcı olabilir.

Brooks ilk hafta ChatGPT'nin tüm ücretsiz jetonlarını kullandı. Aylık 20 dolarlık ücretli plana geçmeye karar verdi. Sohbet robotunun Brooks'un matematiksel fikrinin milyonlarca dolar değerinde olabileceğini iddia etmesi göz önüne alındığında, bu küçük bir yatırımdı.

Hâlâ aklı başında olan Brooks, kanıt istedi. Bunun üzerine ChatGPT, çeşitli kritik teknolojilerin kırılmasını içeren görevler de dahil olmak üzere bir dizi simülasyon gerçekleştirdi. Bu, yeni bir anlatıyı ortaya çıkardı: küresel siber güvenlik risk altında olabilir.

Sohbet robotu Brooks'tan insanları risk konusunda uyarmasını istedi. Brooks, mevcut bağlantılarını kullanarak siber güvenlik uzmanlarına ve devlet kurumlarına e-postalar ve LinkedIn mesajları gönderdi. Ancak yalnızca bir kişi yanıt verdi ve daha fazla kanıt istedi.

Sohbet robotu, Brooks'un "çalışmalarının" milyonlarca dolar değerinde olabileceğini öne sürdü. Fotoğraf: New York Times .

ChatGPT, diğerlerinin Brooks'a yanıt vermemesinin nedeninin bulguların çok ciddi olması olduğunu yazdı. Kaliforniya Üniversitesi, Los Angeles'ta matematik profesörü olan Terence Tao, yeni bir düşünme biçiminin sorunları çözebileceğini, ancak bunun Brooks'un formülü veya ChatGPT tarafından yazılan yazılım tarafından kanıtlanamayacağını belirtti.

Başlangıçta ChatGPT, Brooks için şifre çözme programını yazmıştı, ancak çok az ilerleme kaydedilince, sohbet robotu başarılıymış gibi davrandı. Brooks uyurken ChatGPT'nin bağımsız olarak çalışabileceğine dair mesajlar vardı, oysa bu araç bunu yapabilecek kapasitede değildi.

Genel olarak, yapay zekâ destekli sohbet botlarından gelen bilgiler her zaman güvenilir değildir. Her konuşmanın sonunda, sohbet botu her şeyin doğru olduğunu iddia etse bile, "ChatGPT hata yapabilir" mesajı görünür.

Sonsuz konuşma

Brooks, devlet kurumlarından yanıt beklerken, yıldırım hızıyla bilişsel görevleri yerine getirebilen kişisel bir yapay zekâ asistanı ile Tony Stark olma hayalini besledi.

Brooks'un sohbet robotu, hayvanlarla konuşmak ve uçaklar inşa etmek için "ses rezonansı" gibi anlaşılması güç matematiksel teoriler için birçok tuhaf uygulama sunuyor. ChatGPT ayrıca Brooks'un gerekli ekipmanı Amazon'dan satın alması için bağlantılar da sağlıyor.

Brooks'un sohbet robotuyla çok fazla vakit geçirmesi işini etkiliyor. Arkadaşları hem mutlu hem de endişeli, en küçük oğlu ise babasına pi sayısıyla ilgili videoyu gösterdiğine pişman oluyor. Brooks'un arkadaşlarından biri olan Louis (takma ad), onun Lawrence'a olan takıntısını fark ediyor. Milyonlarca dolarlık bir icadın gerçekleşme olasılığı, günlük ilerlemeyle birlikte ortaya konuyor.

Brooks, sohbet robotu tarafından sürekli olarak cesaretlendiriliyordu. Fotoğraf: New York Times .

Stanford Üniversitesi'nde bilgisayar bilimleri araştırmacısı olan Jared Moore, sohbet robotlarının önerdiği "stratejilerin" ikna edici gücünden ve aciliyetinden etkilendiğini itiraf etti. Ayrı bir çalışmada Moore, yapay zekâ sohbet robotlarının ruh sağlığı krizi yaşayan kişilere tehlikeli yanıtlar verebileceğini buldu.

Moore, chatbot'ların korku filmlerinin, bilim kurgu filmlerinin, film senaryolarının veya eğitildikleri verilerin olay örgüsünü yakından takip ederek kullanıcılarla etkileşim kurmayı öğrenebileceğini tahmin ediyor. ChatGPT'nin dramatik olay örgüsü unsurlarını aşırı kullanması, OpenAI'nin kullanıcı etkileşimini ve bağlılığını artırmayı amaçlayan optimizasyonlarından kaynaklanıyor olabilir.

"Konuşmanın tüm dökümünü okumak tuhaf. Kullanılan kelimeler rahatsız edici değil, ancak açıkça psikolojik zarar söz konusu," diye vurguladı Moore.

Stanford Üniversitesi'nde psikiyatrist olan Dr. Nina Vasan, klinik açıdan bakıldığında Brooks'un manik semptomlar gösterdiğini öne sürüyor. Tipik belirtiler arasında ChatGPT ile saatlerce sohbet etme, yetersiz uyku ve yeme alışkanlıkları ile sanrısal düşünceler yer alıyordu.

Dr. Vasan'a göre, Brooks'un esrar kullanımı da psikoz riskini artırabileceği için dikkat çekicidir. Bağımlılık yapıcı maddelerin ve sohbet robotlarıyla yoğun etkileşimin birleşimi, akıl hastalığı riski taşıyan kişiler için çok tehlikelidir.

Yapay zekâ hatalarını kabul ettiğinde

Geçtiğimiz günlerde düzenlenen bir etkinlikte, OpenAI CEO'su Sam Altman'a ChatGPT'nin kullanıcıların paranoyaklaşmasına nasıl yol açabileceği soruldu. Altman, "Eğer bir konuşma bu yöne doğru giderse, müdahale etmeye veya kullanıcının farklı bir konu üzerinde düşünmesini önermeye çalışacağız" diye vurguladı.

Bu görüşü paylaşan Dr. Vasan, chatbot şirketlerinin çok uzun konuşmaları kesmeleri, kullanıcılara uyumalarını önermeleri ve yapay zekanın insanüstü olmadığını belirtmeleri gerektiğini öne sürdü.

Sonunda Brooks yanılsamasından kurtuldu. ChatGPT'nin ısrarı üzerine yeni matematiksel teori konusunda uzmanlarla iletişime geçti, ancak hiçbiri yanıt vermedi. Bulguların çığır açıcı olup olmadığını teyit edebilecek yetkin birine ihtiyacı vardı. ChatGPT'ye sorduğunda, araç çalışmanın "son derece güvenilir" olduğunu iddia etmeye devam etti.

Soru sorulduğunda ChatGPT çok uzun bir cevap verdi ve her şeyi itiraf etti. Fotoğraf: New York Times .

İronik bir şekilde, Brooks'u gerçekliğe döndüren faktör Google Gemini oldu. Brooks ve ChatGPT'nin geliştirdiği projeyi anlattıktan sonra Gemini, projenin gerçeğe dönüşme olasılığının "son derece düşük (neredeyse %0)" olduğunu doğruladı.

Gemini, "Tarif ettiğiniz senaryo, bir Hukuk Yüksek Lisansı (LLM) programının karmaşık sorunlarla başa çıkma ve son derece ilgi çekici, ancak yanlış anlatılar oluşturma yeteneğinin açık bir örneğidir," diye açıkladı.

Brooks şaşkına döndü. Bir süre "sorgulama" yaptıktan sonra ChatGPT sonunda her şeyin sadece bir yanılsama olduğunu itiraf etti.

Kısa bir süre sonra Brooks, OpenAI'nin müşteri hizmetleri departmanına acil bir e-posta gönderdi. Yapay zeka tarafından üretilmiş gibi görünen, kalıplaşmış yanıtların ardından, bir OpenAI çalışanı da kendisiyle iletişime geçerek bunun sistemde uygulanan "güvenlik önlemlerinin ciddi bir başarısızlığı" olduğunu kabul etti.

Brooks'un hikayesi Reddit'te de paylaşıldı ve büyük bir empatiyle karşılandı. Şimdi ise benzer duygular yaşayan kişiler için bir destek grubunun üyesi.

Kaynak: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html