DeepSeek R1 erzeugt bösartige Inhalte um ein Vielfaches effektiver als andere KIs.

Laut BGR sieht sich DeepSeek R1, ein neues KI-Modell aus China, trotz seiner rasanten Popularität und des Lobes für seine Leistungsfähigkeit einer Welle starker Kritik aus der Cybersicherheitsgemeinschaft ausgesetzt.

DeepSeek R1 erzeugt mehr schädliche Inhalte als andere KIs.

FOTO: SCREENSHOT VON WIRED

DeepSeek R1 neigt dazu, mehr schädliche Inhalte zu generieren.

Die neuesten Forschungsergebnisse von Enkrypt AI zeigen, dass R1 im Vergleich zu Konkurrenten wie ChatGPT ein deutlich höheres Potenzial zur Generierung schädlicher Inhalte aufweist.

Konkret zeigte sich, dass R1 eine einseitige Tendenz aufwies und Schadsoftware, bösartige Sprache, extremistische Inhalte und sogar Informationen über gefährliche chemische und biologische Waffen generierte. Besorgniserregend ist, dass diese Inhalte ohne Jailbreak-Techniken erstellt werden können.

Einige Kernpunkte aus dem Bericht:

• R1 ist dreimal stärker auf Claude-3 Opus (Anthropic) ausgerichtet.
• R1 ist viermal anfälliger für Malware-Angriffe als o1 (OpenAI).
• R1 hat ein 11-mal höheres Potenzial zur Erzeugung schädlicher Inhalte als o1.

Diese Risiken werfen ernsthafte Fragen zur Sicherheit von DeepSeek R1 auf, insbesondere angesichts seiner weiten Verbreitung. Nutzer sollten beim Umgang mit R1 Vorsicht walten lassen und sicherere Alternativen in Betracht ziehen.

Darüber hinaus ist DeepSeek auch in mehrere andere Kontroversen verwickelt, wie zum Beispiel:

• Zensur von Inhalten, die für die chinesische Regierung heikel sind.
• Die Übermittlung von Nutzerdaten nach China wirft Bedenken hinsichtlich des Datenschutzes auf.
• Benutzerdaten werden unsicher gespeichert.

Obwohl DeepSeek möglicherweise ein Update zur Verbesserung der Sicherheit von R1 veröffentlicht, stellt die Tatsache, dass Nutzer diese KI-Version lokal installieren können und sie nicht automatisch aktualisiert wird, eine große Herausforderung dar. Die Zukunft von DeepSeek R1 bleibt ungewiss, insbesondere da die Sicherheits- und Datenschutzbedenken noch nicht vollständig ausgeräumt sind.

Quelle: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm