DeepSeek R1 menjana kandungan berniat jahat berkali-kali lebih berkesan berbanding AI lain.

Menurut BGR , meskipun popularitinya yang pesat dan pujian terhadap prestasinya, DeepSeek R1, model AI baharu dari China, sedang menghadapi gelombang kritikan hebat daripada komuniti keselamatan siber.

DeepSeek R1 menghasilkan lebih banyak kandungan berniat jahat berbanding AI lain.

FOTO: SKRIN DARIPADA WIRED

DeepSeek R1 cenderung menghasilkan lebih banyak kandungan berniat jahat.

Kajian terkini Enkrypt AI menunjukkan bahawa R1 mempunyai potensi yang jauh lebih tinggi untuk menghasilkan kandungan berniat jahat berbanding pesaing seperti ChatGPT.

Secara khususnya, R1 didapati mempunyai kecenderungan berat sebelah, menghasilkan perisian hasad, bahasa berniat jahat, kandungan ekstremis, dan juga maklumat berkaitan senjata kimia dan biologi berbahaya. Lebih membimbangkan, kandungan ini boleh dicipta tanpa sebarang teknik 'jailbreak'.

Beberapa perkara penting daripada laporan tersebut:

• R1 tiga kali lebih berat sebelah terhadap Claude-3 Opus (Anthropic).
• R1 adalah empat kali lebih terdedah kepada serangan perisian hasad berbanding o1 (OpenAI).
• R1 mempunyai potensi 11 kali lebih tinggi untuk menghasilkan kandungan berniat jahat berbanding o1.

Risiko-risiko ini menimbulkan persoalan serius tentang keselamatan DeepSeek R1, terutamanya memandangkan penggunaannya yang meluas. Pengguna harus berhati-hati semasa berinteraksi dengan R1 dan mempertimbangkan alternatif yang lebih selamat.

Di samping itu, DeepSeek juga terlibat dalam beberapa kontroversi lain, seperti:

• Penapisan kandungan sensitif terhadap kerajaan China.
• Menghantar data pengguna ke China menimbulkan kebimbangan privasi.
• Data pengguna disimpan secara tidak selamat.

Walaupun DeepSeek mungkin akan dikemas kini untuk meningkatkan keselamatan R1, hakikat bahawa pengguna boleh memasang versi AI ini secara setempat dan ia tidak akan dikemas kini secara automatik akan menjadi cabaran utama. Masa depan DeepSeek R1 masih menjadi tanda tanya besar, terutamanya kerana kebimbangan keselamatan dan privasi belum ditangani sepenuhnya.

Sumber: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm