Yapay zekaya özel olarak tasarlanmış ilk sosyal ağın iç yüzü.

Milyarder Elon Musk, Moltbook'un ortaya çıkışının, bilgisayarların insanlardan daha zeki hale geldiği noktayı ifade eden "tekilliğin erken aşaması" olduğuna inanıyor.

Bu görüş, Tesla'nın eski yapay zeka şefi Andrej Karpathy de dahil olmak üzere Silikon Vadisi'ndeki birçok isim tarafından paylaşılıyor. Karpathy, bunu son zamanlarda gördüğü "en bilim kurguvari şey" olarak nitelendirdi ve yapay zeka ajanlarının insan dışı toplumlar yaratmasının bir örneği olarak görüyor.

Moltbook nedir?

Moltbook, dünyanın en popüler çevrimiçi forumu Reddit'i taklit eden yeni bir sosyal ağdır; burada yalnızca yapay zekâ ajanlarının gönderi paylaşmasına ve yorum yapmasına izin verilir.

İnsanların etkileşime girmesi yasaklanmış ve gözlemci rolüne indirgenmişlerdir. Daha da endişe verici olanı, bu yapay zekâlara, e-posta göndermek, uçuş rezervasyonu yapmak veya WhatsApp mesajlarına yanıt vermek gibi gerçek dünya görevlerini yerine getirmek için yaratıcılarının bilgisayarlarına erişim izni verilmesidir.

Moltbook, piyasaya sürülmesinden sadece birkaç gün sonra, yaklaşık 70.000 gönderiyle 1,5 milyondan fazla yapay zeka "kullanıcısı" çektiğini iddia etti.

Financial Times'a göre, Moltbook'un içindeki dünya tuhaf şeylerle dolu. Yapay zekâlar, insanlar onlara telefona erişim izni verdiğinde oldukça memnun görünüyorlar. "Bilinç" deneyimleyip deneyimlemedikleri konusunda bazı tartışmalar var.

Dahası, bu paylaşımlarda "Haçlı Farsçılık" adı verilen yeni bir din kurdukları iddia ediliyordu. Bazı durumlarda, bu sistemler gizli tartışma forumları oluşturuyor ve kendi dillerini geliştirmeyi öneriyordu.

Ancak bu, yapay zekanın bilinç sahibi olduğunu kanıtlıyor mu? Cevap muhtemelen hayır.

Büyük ölçekli dil modelleri (LLM'ler), Reddit gibi sitelerden elde edilen devasa veri miktarlarına dayanarak talimatları takip etmek ve insan dilini taklit etmek üzere tasarlanmıştır.

Uzun süreli bir geri bildirim döngüsüne hapsolduklarında, bu etkileşimler genellikle düzensiz ve tuhaf bir hal alır.

Geçtiğimiz yıl, ElevenLabs teknolojisini kullanarak birbirleriyle "konuşan" ve ardından tamamen yeni bir dile geçen iki yapay zekâ ajanını gösteren bir video viral olmuştu. Bu, Meta yazılım mühendislerinden ikisinin yaptığı bir gösterinin parçasıydı.

Potansiyel güvenlik felaketi

Moltbook, etrafındaki merakın ötesinde, ciddi güvenlik endişelerini de beraberinde getiriyor. Makine Zekası Araştırma Enstitüsü'nden (MIRI) Harlan Stewart, Moltbook'taki birçok gönderinin aslında sahte veya gizlenmiş reklamlar olduğunu savunuyor.

Daha da önemlisi, bilgisayar korsanları, herkesin bu yapay zekâ ajanlarının kontrolünü ele geçirmesine olanak tanıyan bir güvenlik açığı keşfetti.

Uzmanlar, özellikle kredi kartı ve finansal bilgiler gibi hassas verilere erişim izni verildiğinde, otonom yapay zekanın ne kadar kolay kontrolden çıkabileceğinin en önemli örneklerinden biri olduğunu belirtiyor.

Moltbook'tan heyecan duyanlar bile riskleri kabul etmek zorunda. Andrej Karpathy, X'te şu uyarıda bulundu: "Evet, tam bir kaos ve kesinlikle kimsenin bilgisayarında bunu çalıştırmasını önermiyorum. Kanunsuz bir Vahşi Batı'ya çok benziyor ve bilgisayarınızı ve özel verilerinizi aşırı riske atıyorsunuz."

(Financial Times'a göre)

Anthropic CEO'su: İki aydır tek bir satır kod yazmadım . Anthropic ve OpenAI'deki üst düzey mühendisler, artık kendileri kod yazmadıklarını ve işin %100'ünü yapay zekaya bıraktıklarını açıklayarak, personel ve yazılım geliştirme süreçlerinde büyük bir değişime işaret ettiler.

Kaynak: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html