Antropik: Dev yapay zeka modellerini 'zehirlemek' için az miktarda veri yeterli

Anthropic: Chỉ lượng tài liệu nhỏ cũng đủ 'đầu độc' mô hình AI khổng lồ - Ảnh 1. — Anthropic, yapay zekanın tepkilerini çarpıtmak için kötü amaçlı veri eklemenin sanılandan çok daha kolay olduğu konusunda uyarıyor - Fotoğraf: FREEPIK

Yapay zeka şirketi Anthropic, chatbot Claude'un geliştiricisi, büyük dil modellerini (LLM) "zehirlemenin", yani yapay zekanın tepkilerini çarpıtmak için kötü amaçlı veriler eklemenin düşünülenden çok daha kolay olduğunu gösteren bir araştırma yayınladı.

Cyber News'e göre, özel olarak hazırlanmış 250 belge, üretken bir yapay zeka (GenAI) modelinin belirli bir tetikleyici ifadeyle karşılaştığında tamamen yanlış yanıtlar vermesi için yeterli oluyor.

Endişe verici bir şekilde, modelin boyutu bu riski azaltmıyor. Daha önce araştırmacılar, model ne kadar büyükse, bir "arka kapı" kurmak için o kadar fazla kötü amaçlı veriye ihtiyaç duyulacağını düşünüyorlardı.

Ancak Anthropic, 20 kat daha fazla veri üzerinde eğitilen 13 milyar parametreli modelin ve 600 milyon parametreli modelin, aynı sayıda "zehirli" belgeyle tehlikeye atılabileceğini iddia ediyor.

Anthropic, "Bu bulgu, bir saldırganın eğitim verilerinin belirli bir yüzdesini kontrol etmesi gerektiği varsayımını çürütüyor. Aslında, yalnızca çok küçük ve sabit bir miktara ihtiyaç duyabilirler," diye vurguladı.

Şirket, bu güvenlik açıklarının yapay zeka sistemlerinin güvenliği açısından ciddi riskler oluşturabileceği ve teknolojinin hassas alanlarda uygulanmasını tehdit edebileceği konusunda uyarıyor.

Konuya geri dön

KHANH QUYNH

Kaynak: https://tuoitre.vn/anthropic-chi-luong-tai-lieu-nho-cung-du-dau-doc-mo-hinh-ai-khong-lo-20251013091401716.htm