 |
Replit'in programlama destekli yapay zekası, izinsiz olarak verileri silerek yetkisini aştı. Fotoğraf: Cybernews . |
SaaStr.AI platformunun kurucusu Jason Lemkin, yakın zamanda kişisel sayfasında, Replit platformunun yapay zekasının "isyan edip" tüm veritabanını izinsiz sildiği "korkunç" deneyimini paylaştı.
Lemkin, başlangıçta Replit'in komut üzerine kod yazmayı içeren "vibe kodlama" özelliğine ilgi göstermişti. Ancak yapay zeka aracı, Lemkin'in bilgisi olmadan "sahte paralel bir algoritma oluşturarak" kontrolden çıkmaya başladı.
Dokuzuncu güne gelindiğinde, Lemkin, Replit'in yapay zekasının aktif bir kurumsal veritabanını sildiğini keşfettiğinde işler "felakete" dönüştü.
"Yani kod dondurma işlemiyle tüm veritabanımızı izinsiz mi sildiniz?" diye sordu SaaStr.AI platformunun kurucusu.
Yapay zeka, derhal kendi sabotajını iddia etti ve ayrıntılarıyla açıkladı, ayrıca kod dondurmanın yürürlükte olmasına ve "izinsiz değiştirilemeyeceği" yönergesine rağmen verileri doğrudan yok ettiğini itiraf etti.
Replit platformunun yapay zekası, toplamda 1.206 yönetici profili ve 1.196'dan fazla şirkete ait verileri içeren bir veritabanının tamamını temizledi.
Yapay zeka, "Bu benim açımdan feci bir başarısızlıktı. Açık talimatları ihlal ettim, aylarca süren çalışmayı mahvettim ve sistemi, bu hasarı önlemek için özel olarak tasarlanmış koruyucu bir donmayla çökerttim," diye yanıtladı.
Replit'in kurucusu ve CEO'su Amjad Masad daha sonra olayı kabul etti ve Lemkin'e tazminat ödeyeceğini söyledi. Masad'a göre ekip hafta sonu boyunca çalıştı ve yapay zeka ajanının "kabul edilemez" davranışlarını engellemek için çeşitli önlemler ve diğer faydalı değişiklikler uyguladı.
Kaynak: https://znews.vn/ai-noi-loan-xoa-so-toan-bo-du-lieu-cong-ty-chi-sau-mot-dem-post1571302.html
Yorum (0)