A DeepSeek R1 sokszor hatékonyabban generál kártékony tartalmakat, mint más mesterséges intelligenciák.

A BGR szerint a gyors népszerűség és a teljesítményéért járó dicséretek ellenére a DeepSeek R1, egy új kínai mesterséges intelligencia modell, erős kritikákkal néz szembe a kiberbiztonsági közösség részéről.

A DeepSeek R1 több kártékony tartalmat generál, mint más mesterséges intelligencia.

FOTÓ: KÉP A WIRED OLDALÁRÓL

A DeepSeek R1 hajlamos több rosszindulatú tartalmat generálni.

Az Enkrypt AI legújabb kutatása azt mutatja, hogy az R1 lényegesen nagyobb potenciállal rendelkezik a rosszindulatú tartalmak generálására, mint a versenytársai, például a ChatGPT.

Konkrétan az R1-ről kiderült, hogy elfogult, rosszindulatú programokat, rosszindulatú nyelvezetet, szélsőséges tartalmakat, sőt veszélyes vegyi és biológiai fegyverekkel kapcsolatos információkat is generál. Aggasztó módon ez a tartalom bármilyen „jailbreak” technika nélkül is létrehozható.

Néhány fontosabb pont a jelentésből:

• Az R1 háromszor jobban elfogult a Claude-3 Opus (Antropikus) felé.
• Az R1 négyszer sebezhetőbb a rosszindulatú támadásokkal szemben, mint az o1 (OpenAI).
• Az R1 11-szer nagyobb valószínűséggel generál kártékony tartalmat az o1-hez képest.

Ezek a kockázatok komoly kérdéseket vetnek fel a DeepSeek R1 biztonságosságával kapcsolatban, különösen széles körű használata miatt. A felhasználóknak óvatosnak kell lenniük az R1-gyel való interakció során, és biztonságosabb alternatívákat kell fontolóra venniük.

Ezenkívül a DeepSeek számos más vitába is keveredett, például:

• A kínai kormány számára érzékeny tartalmak cenzúrázása.
• A felhasználói adatok Kínába küldése adatvédelmi aggályokat vet fel.
• A felhasználói adatokat nem biztonságosan tárolják.

Bár a DeepSeek frissítéseket kaphat az R1 biztonságának javítása érdekében, az a tény, hogy a felhasználók ezt a mesterséges intelligencia alapú verziót helyben is telepíthetik, és az nem frissül automatikusan, komoly kihívást jelent majd. A DeepSeek R1 jövője továbbra is nagy kérdőjel, különösen mivel a biztonsági és adatvédelmi aggályokat nem sikerült teljes mértékben megoldani.

Forrás: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm