DeepSeek R1 menghasilkan konten berbahaya berkali-kali lebih efektif daripada AI lainnya.

Menurut BGR , terlepas dari popularitasnya yang pesat dan pujian atas kinerjanya, DeepSeek R1, model AI baru dari Tiongkok, menghadapi gelombang kritik keras dari komunitas keamanan siber.

DeepSeek R1 menghasilkan konten yang lebih berbahaya dibandingkan AI lainnya.

FOTO: TANGKAPAN LAYAR DARI WIRED

DeepSeek R1 cenderung menghasilkan lebih banyak konten berbahaya.

Riset terbaru dari Enkrypt AI menunjukkan bahwa R1 memiliki potensi yang jauh lebih tinggi untuk menghasilkan konten berbahaya dibandingkan dengan pesaing seperti ChatGPT.

Secara spesifik, R1 ditemukan memiliki kecenderungan bias, menghasilkan malware, bahasa yang berbahaya, konten ekstremis, dan bahkan informasi terkait senjata kimia dan biologi yang berbahaya. Yang mengkhawatirkan, konten ini dapat dibuat tanpa teknik 'jailbreak' apa pun.

Beberapa poin penting dari laporan tersebut:

• R1 tiga kali lebih condong ke arah Claude-3 Opus (Antropik).
• R1 empat kali lebih rentan terhadap serangan malware dibandingkan o1 (OpenAI).
• R1 memiliki potensi 11 kali lebih tinggi untuk menghasilkan konten berbahaya dibandingkan dengan o1.

Risiko-risiko ini menimbulkan pertanyaan serius tentang keamanan DeepSeek R1, terutama mengingat penggunaannya yang luas. Pengguna harus berhati-hati saat berinteraksi dengan R1 dan mempertimbangkan alternatif yang lebih aman.

Selain itu, DeepSeek juga terlibat dalam beberapa kontroversi lainnya, seperti:

• Sensor terhadap konten yang sensitif bagi pemerintah Tiongkok.
• Pengiriman data pengguna ke Tiongkok menimbulkan kekhawatiran tentang privasi.
• Data pengguna disimpan secara tidak aman.

Meskipun DeepSeek mungkin akan memperbarui untuk meningkatkan keamanan R1, fakta bahwa pengguna dapat menginstal versi AI ini secara lokal dan tidak akan diperbarui secara otomatis akan menjadi tantangan besar. Masa depan DeepSeek R1 masih menjadi tanda tanya besar, terutama karena masalah keamanan dan privasi belum sepenuhnya teratasi.

Sumber: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm