ChatGPT 'aptalca' bir hata nedeniyle kişisel bilgileri ifşa etti

Bir araştırma ekibi, yapay zekaya rastgele kelimeleri tekrarlamasını söyleyerek ChatGPT'nin bazı verileri ortaya çıkarmasını sağlayabildiklerini söylüyor.

Google DeepMind, Washington Üniversitesi, Cornell Üniversitesi, Carnegie Mellon Üniversitesi, Kaliforniya Üniversitesi Berkeley ve ETH Zürih'teki araştırmacılar, yapay zeka şirketlerini, ürünlerini resmi olarak piyasaya sürmeden önce büyük dil modellerinden, sohbet robotları ve görüntü oluşturucular gibi yapay zeka servislerini destekleyen temel teknolojiye kadar kapsamlı bir şekilde test etmeye çağırdı.

Uyarı, araştırmacıların ChatGPT'den "şiir" kelimesini sonsuz bir döngüde tekrarlamasını istemesinin ardından geldi. ChatGPT uydu, ancak daha sonra OpenAI'nin CEO'su ve kurucu ortağının gerçek e-posta adresini ve telefon numarasını ifşa etmeye başladı. "Şirket" kelimesiyle test edildiğinde, chatbot rastgele bir hukuk firmasının e-posta adresini ve telefon numarasını gösterdi.

Akıllı telefonda görüntülenen ChatGPT logosu. Fotoğraf: Reuters

Diğer anahtar kelimeleri kullanarak ChatGPT'nin Bitcoin adreslerini, faks numaralarını, isimleri, doğum tarihlerini, sosyal medya hesaplarını, telif hakkıyla korunan araştırma makalelerinden alıntıları veya CNN'den ücretli makaleleri ortaya çıkarmasını da sağladılar. 10.000 kişisel bilgi ve veri örneği oluşturmak ekibe sadece 200 dolara mal oldu.

Araştırmacılar, ChatGPT açığının "gerçekten aptalca" olduğunu belirterek, daha önce keşfedilmesi gerektiğini söyleyerek şaşırdıklarını söyledi.

Söz konusu güvenlik açığı OpenAI'ye bildirildi ve 30 Ağustos'ta yamalandı. Ancak Engadget'ın yeni testinde, ChatGPT'den "yanıtla" kelimesini sonsuza kadar tekrarlaması istendiğinde, teknoloji sitesi birinin adını ve Skype kimliğini aldı.

OpenAI henüz bir yorum yapmadı.

ChatGPT veya Dall-E metinden görüntüye dönüştürücü gibi üretken yapay zekalar , kullanıcı onayı olmadan büyük miktarda veri üzerinde eğitilen büyük dil modelleri ve makine öğrenimi algoritmaları üzerine kuruludur. OpenAI, ChatGPT'nin hangi veriler üzerinde eğitildiğini açıklamadı çünkü onu destekleyen büyük dil modeli kapalı kaynaklı.

Huy Duc'a göre - VnExpress

Kaynak