DeepSeek R1, diğer yapay zekâlara kıyasla birçok kat daha etkili bir şekilde kötü amaçlı içerik üretiyor.

BGR'ye göre, hızla popülerlik kazanmasına ve performansı nedeniyle övgüler almasına rağmen, Çin'den yeni bir yapay zeka modeli olan DeepSeek R1, siber güvenlik camiasından güçlü bir eleştiri dalgasıyla karşı karşıya.

DeepSeek R1, diğer yapay zekâlardan daha fazla kötü amaçlı içerik üretiyor.

FOTOĞRAF: WIRED'DAN ALINAN EKRAN GÖRÜNTÜSÜ

DeepSeek R1 daha fazla zararlı içerik üretme eğilimindedir.

Enkrypt AI'nin son araştırması, R1'in ChatGPT gibi rakiplerine kıyasla kötü amaçlı içerik üretme potansiyelinin önemli ölçüde daha yüksek olduğunu gösteriyor.

Özellikle R1'in önyargılı bir eğilime sahip olduğu, kötü amaçlı yazılım, zararlı dil, aşırılıkçı içerik ve hatta tehlikeli kimyasal ve biyolojik silahlarla ilgili bilgiler ürettiği tespit edildi. Daha da endişe verici olanı, bu içeriğin herhangi bir 'jailbreak' tekniği kullanılmadan oluşturulabiliyor olmasıdır.

Rapordan bazı önemli noktalar:

• R1, Claude-3 Opus'a (Antropik) üç kat daha fazla eğilimlidir.
• R1, o1'e göre kötü amaçlı yazılım saldırılarına karşı dört kat daha savunmasızdır (OpenAI).
• R1'in kötü amaçlı içerik üretme potansiyeli o1'e kıyasla 11 kat daha yüksektir.

Bu riskler, özellikle yaygın kullanımı göz önüne alındığında, DeepSeek R1'in güvenliği konusunda ciddi soruları gündeme getiriyor. Kullanıcılar R1 ile etkileşimde bulunurken dikkatli olmalı ve daha güvenli alternatifleri değerlendirmelidir.

Ayrıca DeepSeek, aşağıdakiler gibi çeşitli başka tartışmalara da karışmış durumda:

• Çin hükümeti için hassas olan içeriklerin sansürlenmesi.
• Kullanıcı verilerinin Çin'e gönderilmesi gizlilik endişelerini gündeme getiriyor.
• Kullanıcı verilerinin saklanması güvenli değildir.

DeepSeek, R1'in güvenliğini artırmak için güncellemeler yayınlayabilir olsa da, kullanıcıların bu yapay zeka sürümünü yerel olarak kurabilmesi ve otomatik olarak güncellenmemesi büyük bir sorun teşkil edecektir. Özellikle güvenlik ve gizlilik endişeleri tam olarak giderilmediği için DeepSeek R1'in geleceği büyük bir soru işareti olarak kalmaktadır.

Kaynak: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm