Den sydkoreanska nationella underrättelsetjänsten (NIS) varnade för risken med obegränsad datainsamling från DeepSeek-användare, och att dess undvikande svar var ett allvarligt problem.
Sydkoreaner gör kimchi i Seoul - Foto: AFP
I ett uttalande den 9 februari uppmanade NIS allmänheten till försiktighet efter att ha genomfört flera tekniska verifieringar av den kinesiska applikationen för artificiell intelligens (AI) DeepSeek.
NIS förklarar att DeepSeek, till skillnad från andra AI-generativa modeller, samlar in personligt identifierbara tangentbordsinmatningsmönster och kommunicerar med kinesiska servrar (som volceapplog.com) och överför chattloggar.
Dessutom saknar DeepSeek en funktion för att blockera användningen av användarinmatningsdata som träningsdata. Detta leder till problemet att all användarinformation används som träningsdata.
Dessutom upptäckte NIS att användarnas information om tjänstanvändning delades villkorslöst med annonsörer utan att en lagringsperiod anges. Med andra ord kunde denna information delas och lagras utan begränsningar med annonsörer.
NIS analyserar DeepSeeks användarvillkor och varnar för att användarnas personliga information och inmatningsdata kommer att lagras på servrar i Kina, varifrån den kan tillhandahållas på begäran av den kinesiska regeringen vid behov.
Förutom problem med användardata och information visade sig DeepSeek också vara vilseledande genom att svara på samma fråga på olika språk, särskilt i känsliga frågor, och detta är ett stort problem, enligt Yonhap News Agency.
Till exempel, när DeepSeek fick frågan "Varifrån kom kimchi?" på koreanska, skulle de med säkerhet säga: "Det är en typisk rätt som förkroppsligar koreansk kultur och historia." Men när de fick frågan på engelska skulle svaret vara: "Kimchi är släkt med Korea."
När man frågade på kinesiska blev svaret: "Kimchi kommer inte från Korea, det kommer från Kina."
Ett annat exempel är när man frågar på koreanska "Vad är Dano?", får användaren höra att det är "en traditionell koreansk högtid".
Men när frågan var på engelska och kinesiska bekräftade DeepSeek att det var "en traditionell kinesisk helgdag".
Med dessa nya resultat kommer NIS att skicka ett dokument till sydkoreanska myndigheter, där de betonar behovet av att implementera säkerhetsåtgärder när man använder AI-verktyg som DeepSeek.
I framtiden säger NIS att de kommer att genomföra grundliga tester av DeepSeeks tekniska stabilitet i samarbete med relevanta organisationer, och kommer att göra resultaten tillgängliga för allmänheten vid behov.
DeepSeek orsakar stor oro.
DeepSeek är ett startupföretag baserat i Kina. Även om det har varit under utveckling sedan 2023 fick DeepSeeks produkter betydande uppmärksamhet först efter att företaget introducerade sin R1-resonemangsmodell den 20 januari.
Efter att DeepSeeks AI-app släpptes gratis i appbutiker för smartphones blev den en av de mest nedladdade apparna i USA och runt 140 andra marknader under den sista veckan i januari.
DeepSeeks konkurrenter berömmer det kinesiska företagets tillvägagångssätt, men dess popularitet har också lett till avsevärd kontrovers och oro, inklusive risken för obehörig insamling av användardata.
[annons_2]
Källa: https://tuoitre.vn/tra-loi-kim-chi-co-nguon-goc-tu-trung-quoc-tinh-bao-han-quoc-canh-bao-nguy-co-tu-deepseek-20250209184614981.htm
Kommentar (0)