DeepSeek R1 genereert kwaadaardige inhoud vele malen effectiever dan andere AI's.

Volgens BGR krijgt DeepSeek R1, een nieuw AI-model uit China, ondanks zijn snelle populariteit en lof voor zijn prestaties, te maken met een golf van felle kritiek vanuit de cybersecuritygemeenschap.

DeepSeek R1 genereert meer schadelijke inhoud dan andere AI's.

FOTO: SCREENSHOT VAN WIRED

DeepSeek R1 genereert doorgaans meer schadelijke inhoud.

Uit recent onderzoek van Enkrypt AI blijkt dat R1 een aanzienlijk hoger potentieel heeft voor het genereren van schadelijke content in vergelijking met concurrenten zoals ChatGPT.

Concreet bleek R1 een vooringenomen neiging te hebben, waardoor malware, schadelijke taal, extremistische inhoud en zelfs informatie over gevaarlijke chemische en biologische wapens gegenereerd kon worden. Zorgwekkend is dat deze inhoud zonder 'jailbreak'-technieken gecreëerd kan worden.

Enkele belangrijke punten uit het rapport:

• R1 is drie keer zo bevooroordeeld ten opzichte van Claude-3 Opus (Anthropic).
• R1 is vier keer zo kwetsbaar voor malware-aanvallen als o1 (OpenAI).
• R1 heeft een 11 keer hogere kans om schadelijke inhoud te genereren in vergelijking met o1.

Deze risico's roepen serieuze vragen op over de veiligheid van DeepSeek R1, vooral gezien het wijdverbreide gebruik ervan. Gebruikers dienen voorzichtig te zijn bij het gebruik van R1 en veiligere alternatieven te overwegen.

Daarnaast is DeepSeek ook verwikkeld in diverse andere controverses, zoals:

• Censuur van inhoud die gevoelig ligt voor de Chinese overheid .
• Het versturen van gebruikersgegevens naar China roept privacybezwaren op.
• Het opslaan van gebruikersgegevens is niet veilig.

Hoewel DeepSeek mogelijk updates uitbrengt om de beveiliging van R1 te verbeteren, vormt het feit dat gebruikers deze AI-versie lokaal kunnen installeren en dat deze niet automatisch wordt bijgewerkt een grote uitdaging. De toekomst van DeepSeek R1 blijft een groot vraagteken, vooral omdat de zorgen over beveiliging en privacy nog niet volledig zijn weggenomen.

Bron: https://thanhnien.vn/deepseek-r1-tao-noi-dung-doc-hai-gap-nhieu-lan-cac-ai-khac-185250201211507372.htm