DeepSeek R1 generuje szkodliwą treść znacznie skuteczniej niż inne sztuczne inteligencje.

Jak podaje BGR , pomimo szybkiej popularności i pochwał za wydajność, DeepSeek R1, nowy model sztucznej inteligencji z Chin, spotyka się z falą ostrej krytyki ze strony społeczności zajmującej się cyberbezpieczeństwem.

DeepSeek R1 generuje więcej złośliwych treści niż inne sztuczne inteligencje.

ZDJĘCIE: ZRZUT EKRANU Z WIRED

DeepSeek R1 ma tendencję do generowania bardziej złośliwej zawartości.

Najnowsze badania Enkrypt AI pokazują, że R1 ma znacznie większy potencjał generowania złośliwej zawartości w porównaniu z konkurentami, takimi jak ChatGPT.

W szczególności stwierdzono, że R1 ma tendencję do tworzenia stronniczych treści, generując złośliwe oprogramowanie, wulgarny język, treści ekstremistyczne, a nawet informacje dotyczące niebezpiecznej broni chemicznej i biologicznej. Co niepokojące, treści te można tworzyć bez żadnych technik „jailbreak”.

Oto najważniejsze punkty raportu:

• R1 jest trzykrotnie bardziej stronniczy w kierunku Claude-3 Opus (Anthropic).
• R1 jest czterokrotnie bardziej podatny na ataki złośliwego oprogramowania niż o1 (OpenAI).
• R1 ma 11-krotnie większy potencjał generowania złośliwej zawartości w porównaniu do o1.

Te zagrożenia rodzą poważne wątpliwości co do bezpieczeństwa DeepSeek R1, zwłaszcza biorąc pod uwagę jego powszechne zastosowanie. Użytkownicy powinni zachować ostrożność podczas korzystania z R1 i rozważyć bezpieczniejsze alternatywy.

Ponadto DeepSeek jest uwikłany w kilka innych kontrowersji, takich jak:

• Cenzura treści wrażliwych dla chińskiego rządu .
• Przesyłanie danych użytkowników do Chin budzi obawy dotyczące prywatności.
• Przechowywanie danych użytkownika nie jest bezpieczne.

Chociaż DeepSeek może zostać zaktualizowany w celu poprawy bezpieczeństwa wersji R1, fakt, że użytkownicy mogą zainstalować tę wersję AI lokalnie i nie będzie ona automatycznie aktualizowana, będzie stanowił poważne wyzwanie. Przyszłość DeepSeek R1 pozostaje pod dużym znakiem zapytania, zwłaszcza że kwestie bezpieczeństwa i prywatności nie zostały w pełni rozwiązane.

Źródło: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm