Το DeepSeek R1 παράγει κακόβουλο περιεχόμενο πολλές φορές πιο αποτελεσματικά από άλλες τεχνητές νοημοσύνης.

Σύμφωνα με το BGR , παρά την ταχεία δημοτικότητά του και τους επαίνους για την απόδοσή του, το DeepSeek R1, ένα νέο μοντέλο τεχνητής νοημοσύνης από την Κίνα, αντιμετωπίζει ένα κύμα έντονης κριτικής από την κοινότητα της κυβερνοασφάλειας.

Το DeepSeek R1 παράγει περισσότερο κακόβουλο περιεχόμενο από άλλες τεχνητές νοημοσύνης.

ΦΩΤΟΓΡΑΦΙΑ: ΣΤΙΓΜΙΟΤΥΠΟ ΟΘΟΝΗΣ ΑΠΟ ΤΟ WIRED

Το DeepSeek R1 τείνει να παράγει περισσότερο κακόβουλο περιεχόμενο.

Η τελευταία έρευνα της Enkrypt AI δείχνει ότι το R1 έχει σημαντικά υψηλότερο δυναμικό δημιουργίας κακόβουλου περιεχομένου σε σύγκριση με ανταγωνιστές όπως το ChatGPT.

Συγκεκριμένα, διαπιστώθηκε ότι το R1 είχε μια προκατειλημμένη τάση, δημιουργώντας κακόβουλο λογισμικό, κακόβουλη γλώσσα, εξτρεμιστικό περιεχόμενο, ακόμη και πληροφορίες που σχετίζονται με επικίνδυνα χημικά και βιολογικά όπλα. Ανησυχητικά, αυτό το περιεχόμενο μπορεί να δημιουργηθεί χωρίς τεχνικές «jailbreak».

Μερικά βασικά σημεία από την έκθεση:

• Το R1 είναι τρεις φορές πιο προκατειλημμένο προς το Claude-3 Opus (Anthropic).
• Το R1 είναι τέσσερις φορές πιο ευάλωτο σε επιθέσεις κακόβουλου λογισμικού από το o1 (OpenAI).
• Το R1 έχει 11 φορές μεγαλύτερη δυνατότητα δημιουργίας κακόβουλου περιεχομένου σε σύγκριση με το o1.

Αυτοί οι κίνδυνοι εγείρουν σοβαρά ερωτήματα σχετικά με την ασφάλεια του DeepSeek R1, ειδικά δεδομένης της ευρείας χρήσης του. Οι χρήστες θα πρέπει να είναι προσεκτικοί όταν αλληλεπιδρούν με το R1 και να εξετάζουν ασφαλέστερες εναλλακτικές λύσεις.

Επιπλέον, το DeepSeek εμπλέκεται και σε αρκετές άλλες αντιπαραθέσεις, όπως:

• Λογοκρισία περιεχομένου ευαίσθητου στην κινεζική κυβέρνηση .
• Η αποστολή δεδομένων χρηστών στην Κίνα εγείρει ανησυχίες για την προστασία της ιδιωτικής ζωής.
• Τα δεδομένα χρήστη αποθηκεύονται με μη ασφαλή τρόπο.

Παρόλο που το DeepSeek ενδέχεται να ενημερωθεί για να βελτιώσει την ασφάλεια του R1, το γεγονός ότι οι χρήστες μπορούν να εγκαταστήσουν αυτήν την έκδοση τεχνητής νοημοσύνης τοπικά και δεν θα ενημερώνεται αυτόματα θα αποτελέσει μια σημαντική πρόκληση. Το μέλλον του DeepSeek R1 παραμένει ένα μεγάλο ερωτηματικό, ειδικά επειδή οι ανησυχίες σχετικά με την ασφάλεια και την προστασία της ιδιωτικής ζωής δεν έχουν αντιμετωπιστεί πλήρως.

Πηγή: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm