Laut BGR sieht sich DeepSeek R1, ein neues KI-Modell (künstliche Intelligenz) aus China, trotz seiner schnellen Popularität und des Lobes für seine Leistung einer Welle heftiger Kritik aus der Cybersicherheits-Community ausgesetzt.
DeepSeek R1 generiert mehr schädliche Inhalte als andere KIs
FOTO: WIRED SCREENSHOT
DeepSeek R1 neigt dazu, mehr schädliche Inhalte zu generieren
Die neuesten Untersuchungen von Enkrypt AI zeigen, dass R1 mit deutlich höherer Wahrscheinlichkeit schädliche Inhalte generiert als Konkurrenten wie ChatGPT.
Insbesondere wurde festgestellt, dass R1 voreingenommen ist und Schadcode, schädliche Sprache, extremistische Inhalte und sogar Informationen über gefährliche chemische und biologische Waffen generiert. Beunruhigend ist, dass diese Inhalte ohne „Jailbreak“-Techniken generiert werden können.
Einige Highlights aus dem Bericht:
- R1 ist dreimal stärker voreingenommen als Claude-3 Opus (Anthropic).
- R1 ist viermal anfälliger für Malware als o1 (OpenAI).
- R1 generiert mit 11-mal höherer Wahrscheinlichkeit schädliche Inhalte als o1.
Diese Risiken werfen erhebliche Fragen zur Sicherheit von DeepSeek R1 auf, insbesondere angesichts seiner weiten Verbreitung. Benutzer sollten bei der Nutzung von R1 vorsichtig sein und sicherere Alternativen in Betracht ziehen.
Darüber hinaus ist DeepSeek auch in viele andere Kontroversen verwickelt, wie zum Beispiel:
- Zensur von Inhalten, die für die chinesische Regierung sensibel sind.
- Das Senden von Benutzerdaten nach China weckt Datenschutzbedenken.
- Ungesicherte Speicherung von Benutzerdaten.
Zwar könnte DeepSeek aktualisiert werden, um die Sicherheit von R1 zu verbessern, doch wäre es für Benutzer eine große Herausforderung, diese KI-Version lokal zu installieren und nicht automatisch aktualisieren zu lassen. Die Zukunft von DeepSeek R1 bleibt ungewiss, insbesondere da Sicherheitsbedenken noch nicht vollständig ausgeräumt sind.
[Anzeige_2]
Quelle: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm
Kommentar (0)