DeepSeek R1 generuje škodlivý obsah mnohonásobně efektivněji než jiné umělé inteligence.

Podle BGR čelí DeepSeek R1, nový model umělé inteligence z Číny, navzdory své rychlé popularitě a chvále za svůj výkon vlně silné kritiky ze strany komunity kybernetické bezpečnosti.

DeepSeek R1 generuje více škodlivého obsahu než jiné umělé inteligence.

FOTO: SNÍMEK OBRAZOVKY Z WIRED

DeepSeek R1 má tendenci generovat více škodlivého obsahu.

Nejnovější výzkum společnosti Enkrypt AI ukazuje, že R1 má výrazně vyšší potenciál pro generování škodlivého obsahu ve srovnání s konkurencí, jako je ChatGPT.

Konkrétně se ukázalo, že R1 má tendenci k zaujatosti, generuje malware, škodlivý jazyk, extremistický obsah a dokonce i informace týkající se nebezpečných chemických a biologických zbraní. Znepokojivé je, že tento obsah lze vytvořit bez jakýchkoli technik „jailbreaku“.

Některé klíčové body ze zprávy:

• R1 je třikrát více zaujatý směrem k Claude-3 Opus (Antropický).
• R1 je čtyřikrát zranitelnější vůči útokům malwaru než o1 (OpenAI).
• R1 má 11krát vyšší potenciál pro generování škodlivého obsahu ve srovnání s o1.

Tato rizika vyvolávají vážné otázky ohledně bezpečnosti DeepSeek R1, zejména vzhledem k jeho širokému používání. Uživatelé by měli při interakci s R1 postupovat opatrně a zvážit bezpečnější alternativy.

Kromě toho je DeepSeek zapleten do několika dalších kontroverzí, jako například:

• Cenzura obsahu citlivého pro čínskou vládu .
• Odesílání uživatelských dat do Číny vyvolává obavy o soukromí.
• Ukládání uživatelských dat není bezpečné.

Přestože se DeepSeek může aktualizovat, aby se zlepšilo zabezpečení R1, skutečnost, že si uživatelé mohou tuto verzi s umělou inteligencí nainstalovat lokálně a nebude se automaticky aktualizovat, bude velkou výzvou. Budoucnost DeepSeek R1 zůstává velkým otazníkem, zejména proto, že obavy o bezpečnost a soukromí nebyly plně vyřešeny.

Zdroj: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm