DeepSeek R1 は、他の AI よりも何倍も効率的に悪意のあるコンテンツを生成します。

BGRによると、中国発の新しい AI モデルである DeepSeek R1 は、そのパフォーマンスに対する急速な人気と賞賛にもかかわらず、サイバーセキュリティ コミュニティからの激しい批判に直面している。

DeepSeek R1 は他の AI よりも悪意のあるコンテンツを多く生成します。

写真：WIREDのスクリーンショット

DeepSeek R1 は、より悪意のあるコンテンツを生成する傾向があります。

Enkrypt AI の最新の調査によると、R1 は ChatGPT などの競合製品と比較して、悪意のあるコンテンツを生成する可能性が大幅に高いことが示されています。

具体的には、R1は偏向した傾向があり、マルウェア、悪意のある言語、過激派コンテンツ、さらには危険な化学兵器や生物兵器に関する情報まで生成することが判明しました。懸念されるのは、これらのコンテンツは「脱獄」技術を使わずに作成できることです。

レポートの重要なポイント:

• R1 は、Claude-3 Opus (Anthropic) に 3 倍偏っています。
• R1 は、o1 (OpenAI) よりもマルウェア攻撃に対して 4 倍脆弱です。
• R1 は、o1 と比較して、悪意のあるコンテンツを生成する可能性が 11 倍高くなります。

これらのリスクは、特にその広範な使用状況を考慮すると、DeepSeek R1の安全性について深刻な疑問を投げかけます。ユーザーはR1を使用する際には注意を払い、より安全な代替手段を検討する必要があります。

さらに、DeepSeek は次のような他のいくつかの論争にも巻き込まれています。

• 中国政府にとって敏感なコンテンツの検閲。
• ユーザーデータを中国に送信するとプライバシーに関する懸念が生じます。
• ユーザーデータは安全でない状態で保存されます。

DeepSeekはR1のセキュリティを向上させるためにアップデートを行う可能性がありますが、ユーザーがこのAIバージョンをローカルにインストールしても自動アップデートされないという事実は大きな課題となります。特にセキュリティとプライバシーに関する懸念が十分に解決されていないため、DeepSeek R1の将来は依然として大きな疑問符が付きます。

出典: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm