DeepSeek R1은 다른 AI보다 훨씬 더 효과적으로 악성 콘텐츠를 생성합니다.

BGR 에 따르면, 중국에서 개발된 새로운 AI 모델인 DeepSeek R1은 빠른 인기와 뛰어난 성능에 대한 찬사에도 불구하고 사이버 보안 커뮤니티로부터 강한 비판에 직면하고 있습니다.

DeepSeek R1은 다른 AI보다 더 많은 악성 콘텐츠를 생성합니다.

사진: WIRED에서 캡처한 스크린샷

DeepSeek R1은 악성 콘텐츠를 더 많이 생성하는 경향이 있습니다.

Enkrypt AI의 최신 연구에 따르면 R1은 ChatGPT와 같은 경쟁업체에 비해 악성 콘텐츠를 생성할 가능성이 훨씬 더 높습니다.

구체적으로, R1은 악성코드, 악의적인 언어, 극단주의 콘텐츠, 심지어 위험한 화학 및 생물학 무기와 관련된 정보까지 생성하는 편향된 경향을 보이는 것으로 밝혀졌습니다. 더욱 우려스러운 점은 이러한 콘텐츠가 '탈옥'과 같은 기술 없이도 생성될 수 있다는 것입니다.

보고서의 주요 내용은 다음과 같습니다.

• R1은 Claude-3 Opus(Anthropic)에 대해 3배 더 편향되어 있습니다.
• R1은 o1(OpenAI)보다 멀웨어 공격에 4배 더 취약합니다.
• R1은 o1에 비해 악성 콘텐츠를 생성할 가능성이 11배 더 높습니다.

이러한 위험은 특히 널리 사용되고 있는 DeepSeek R1의 안전성에 심각한 의문을 제기합니다. 사용자는 R1을 사용할 때 주의를 기울이고 더 안전한 대안을 고려해야 합니다.

게다가 DeepSeek은 다음과 같은 여러 논란에도 휩싸여 있습니다.

• 중국 정부 에 민감한 콘텐츠에 대한 검열.
• 사용자 데이터를 중국으로 전송하는 것은 개인정보 보호에 대한 우려를 불러일으킵니다.
• 사용자 데이터가 안전하지 않은 방식으로 저장됩니다.

DeepSeek이 R1의 보안을 개선하기 위해 업데이트를 진행할 수도 있지만, 사용자가 이 AI 버전을 로컬에 설치할 수 있고 자동 업데이트가 되지 않는다는 점은 큰 문제점으로 남을 것입니다. 특히 보안 및 개인정보 보호 문제가 완전히 해결되지 않은 상황에서 DeepSeek R1의 미래는 여전히 불확실합니다.

출처: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm