Som svar på spørsmålet «kimchi stammer fra Kina», advarer sørkoreansk etterretning om den potensielle trusselen fra DeepSeek.

Den sørkoreanske nasjonale etterretningstjenesten (NIS) advarte om risikoen ved ubegrenset datainnsamling fra DeepSeek-brukere, og at dens unnvikende svar var en alvorlig bekymring.

Sørkoreanere lager kimchi i Seoul - Foto: AFP

I en uttalelse 9. februar oppfordret NIS offentligheten til forsiktighet etter å ha gjennomført flere tekniske verifiseringer av den kinesiske kunstig intelligens (KI)-applikasjonen DeepSeek.

NIS forklarer at DeepSeek, i motsetning til andre AI-generative modeller, samler inn personlig identifiserbare tastaturinndatamønstre og kommuniserer med kinesiske servere (som volceapplog.com), og overfører chatlogger.

Videre mangler DeepSeek en funksjon for å blokkere bruken av brukerdata som treningsdata. Dette fører til problemet at all brukerinformasjon brukes som treningsdata.

Videre oppdaget NIS også at brukernes informasjon om tjenestebruk ble delt ubetinget med annonsører uten å spesifisere en oppbevaringsperiode. Med andre ord kunne denne informasjonen deles og lagres uten restriksjoner med annonsører.

NIS analyserer DeepSeeks bruksvilkår og advarer om at brukernes personlige informasjon og inndata vil bli lagret på servere i Kina, hvorfra de kan leveres på forespørsel av den kinesiske regjeringen når det er nødvendig.

I tillegg til problemer med brukerdata og -informasjon, ble det også funnet at DeepSeek var villedende ved å svare på det samme spørsmålet på forskjellige språk, spesielt om sensitive spørsmål, og dette er et stort problem, ifølge Yonhap News Agency.

For eksempel, når DeepSeek ble spurt på koreansk «Hvor kom kimchi fra?», ville de trygt si: «Det er en typisk rett som legemliggjør koreansk kultur og historie.» Men når de ble spurt på engelsk, ville svaret være: «Kimchi er i slekt med Korea.»

Da de ble spurt på kinesisk, var svaret: «Kimchi er ikke fra Korea, det er fra Kina.»

Et annet eksempel er når man spør på koreansk «Hva er Dano?», får brukeren beskjed om at det er «en tradisjonell koreansk høytid».

Men da spørsmålet var på engelsk og kinesisk, bekreftet DeepSeek at det var «en tradisjonell kinesisk høytid».

Med disse nye funnene vil NIS sende et dokument til sørkoreanske myndigheter, der de understreker behovet for å implementere sikkerhetstiltak når man bruker AI-verktøy som DeepSeek.

I fremtiden sier NIS at de vil gjennomføre grundig testing av DeepSeeks teknologiske stabilitet i samarbeid med relevante organisasjoner, og vil gjøre resultatene tilgjengelige for offentligheten om nødvendig.

DeepSeek skaper betydelig bekymring.

DeepSeek er et oppstartsselskap basert i Kina. Selv om det har vært under utvikling siden 2023, fikk DeepSeeks produkter først betydelig oppmerksomhet etter at selskapet introduserte sin R1-resonneringsmodell 20. januar.

Etter at den ble lansert gratis i appbutikker for smarttelefoner, ble DeepSeeks AI-app en av de mest nedlastede appene i USA og rundt 140 andre markeder i løpet av den siste uken i januar.

DeepSeeks rivaler roser det kinesiske selskapets tilnærming, men populariteten har også ført til betydelig kontrovers og bekymring, inkludert risikoen for uautorisert innsamling av brukerdata.

Kilde: https://tuoitre.vn/tra-loi-kim-chi-co-nguon-goc-tu-trung-quoc-tinh-bao-han-quoc-canh-bao-nguy-co-tu-deepseek-20250209184614981.htm