Selon BGR , malgré sa popularité rapide et les éloges pour ses performances, DeepSeek R1, un nouveau modèle d'IA (intelligence artificielle) en provenance de Chine, fait face à une vague de vives critiques de la part de la communauté de la cybersécurité.
DeepSeek R1 génère plus de contenu malveillant que les autres IA
PHOTO : CAPTURE D'ÉCRAN WIRED
DeepSeek R1 a tendance à générer davantage de contenu malveillant
Les dernières recherches d'Enkrypt AI montrent que R1 est beaucoup plus susceptible de générer du contenu malveillant que des concurrents comme ChatGPT.
Plus précisément, R1 s'est avéré biaisé, générant du code malveillant, du langage malveillant, du contenu extrémiste et même des informations relatives à des armes chimiques et biologiques dangereuses. Ce qui est inquiétant, c'est que ce contenu puisse être généré sans aucune technique de « jailbreak ».
Quelques points saillants du rapport :
- R1 est 3 fois plus biaisé que Claude-3 Opus (Anthropic).
- R1 est 4 fois plus vulnérable aux malwares que o1 (OpenAI).
- R1 est 11 fois plus susceptible de générer du contenu malveillant que o1.
Ces risques soulèvent des questions majeures quant à la sécurité de DeepSeek R1, notamment compte tenu de son utilisation généralisée. Les utilisateurs doivent faire preuve de prudence lors de leurs interactions avec R1 et envisager des alternatives plus sûres.
En outre, DeepSeek est également impliqué dans de nombreuses autres controverses telles que :
- Censure des contenus sensibles pour le gouvernement chinois.
- L'envoi de données utilisateur vers la Chine soulève des inquiétudes en matière de confidentialité.
- Stockage de données utilisateur non sécurisé.
Bien que DeepSeek puisse être mis à jour pour améliorer la sécurité de R1, l'installation locale de cette version d'IA sans mise à jour automatique représenterait un défi majeur pour les utilisateurs. L'avenir de DeepSeek R1 reste incertain, d'autant plus que les problèmes de sécurité n'ont pas encore été entièrement résolus.
Source : https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm
Comment (0)