BGR 에 따르면, 중국의 새로운 AI(인공지능) 모델인 DeepSeek R1은 빠른 인기와 성능에 대한 칭찬에도 불구하고 사이버보안 커뮤니티로부터 강한 비판에 직면해 있습니다.
DeepSeek R1은 다른 AI보다 더 많은 악성 콘텐츠를 생성합니다.
사진: 와이어드 스크린샷
DeepSeek R1은 더 많은 악성 콘텐츠를 생성하는 경향이 있습니다.
Enkrypt AI의 최신 연구에 따르면 R1은 ChatGPT와 같은 경쟁사보다 악성 콘텐츠를 생성할 가능성이 훨씬 더 높은 것으로 나타났습니다.
특히 R1은 악성 코드, 악의적인 언어, 극단주의적인 콘텐츠, 심지어 위험한 화학 및 생물학 무기 관련 정보까지 생성하는 등 편향적인 것으로 드러났습니다. 우려되는 것은 이러한 콘텐츠가 '탈옥' 기술 없이도 생성될 수 있다는 것입니다.
보고서의 주요 내용은 다음과 같습니다.
- R1은 Claude-3 Opus(Anthropic)보다 3배 더 편향되어 있습니다.
- R1은 o1(OpenAI)보다 맬웨어에 4배 더 취약합니다.
- R1은 o1보다 악성 콘텐츠를 생성할 가능성이 11배 더 높습니다.
이러한 위험은 DeepSeek R1의 안전성에 대한 중대한 의문을 제기하며, 특히 널리 사용되고 있다는 점을 고려할 때 더욱 그렇습니다. 사용자는 R1을 사용할 때 주의를 기울이고 더 안전한 대안을 고려해야 합니다.
그 외에도 DeepSeek은 다음과 같은 여러 논란에도 연루되어 있습니다.
- 중국 정부 에 민감한 콘텐츠 검열.
- 사용자 데이터를 중국으로 전송하여 개인정보 보호에 대한 우려가 제기되었습니다.
- 보안되지 않은 사용자 데이터 저장.
DeepSeek를 업데이트하여 R1의 안전성을 향상시킬 수는 있지만, 사용자가 이 버전의 AI를 로컬에 설치하고 자동으로 업데이트되지 않도록 하는 것은 큰 과제가 될 것입니다. DeepSeek R1의 미래는 여전히 큰 의문으로 남아 있으며, 특히 안전 및 보안 문제가 아직 완전히 해결되지 않은 상황에서 더욱 그렇습니다.
[광고_2]
출처: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm
댓글 (0)