Jihokorejská národní zpravodajská služba (NIS) varovala před rizikem neomezeného sběru dat od uživatelů DeepSeeku a že jeho vyhýbavé reakce představují vážný problém.
Jihokorejci připravují kimči v Soulu - Foto: AFP
Ve svém prohlášení z 9. února NIS vyzvala veřejnost k opatrnosti poté, co provedla několik technických ověření čínské aplikace umělé inteligence (AI) DeepSeek.
NIS vysvětluje, že na rozdíl od jiných generativních modelů umělé inteligence shromažďuje DeepSeek osobně identifikovatelné vstupní vzorce z klávesnice a komunikuje s čínskými servery (například volceapplog.com) a přenáší protokoly chatu.
DeepSeek navíc postrádá funkci, která by blokovala použití uživatelských vstupních dat jako trénovacích dat. To vede k problému, že veškeré uživatelské informace jsou použity jako trénovací data.
Společnost NIS dále zjistila, že informace o využívání služeb uživateli byly bezpodmínečně sdíleny s inzerenty bez stanovení doby uchovávání. Jinými slovy, tyto informace mohly být s inzerenty sdíleny a ukládány bez omezení.
Při analýze podmínek používání DeepSeeku NIS varuje, že osobní údaje a vstupní data uživatelů budou uloženy na serverech v Číně, odkud je může čínská vláda v případě potřeby na vyžádání poskytnout.
Kromě problémů s uživatelskými daty a informacemi se zjistilo, že DeepSeek je také klamavý při odpovídání na stejnou otázku v různých jazycích, zejména u citlivých témat, což je podle tiskové agentury Yonhap závažný problém.
Například na otázku „Odkud kimči pochází?“ v korejštině by DeepSeek sebevědomě odpověděl: „Je to typický pokrm ztělesňující korejskou kulturu a historii.“ Na otázku v angličtině by však odpověď zněla: „Kimči souvisí s Koreou.“
Na čínskou otázku odpověděli: „Kimči nepochází z Koreje, ale z Číny.“
Dalším příkladem je otázka v korejštině „Co je Dano?“, kde je uživateli řečeno, že se jedná o „tradiční korejský svátek“.
Ale když otázka zazněla v angličtině a čínštině, DeepSeek potvrdil, že se jedná o „tradiční čínský svátek“.
Na základě těchto nových zjištění zašle NIS jihokorejským vládním agenturám dokument, v němž zdůrazní potřebu zavést bezpečnostní opatření při používání nástrojů umělé inteligence, jako je DeepSeek.
Společnost NIS v budoucnu provede ve spolupráci s příslušnými organizacemi důkladné testování technologické stability systému DeepSeek a v případě potřeby výsledky zpřístupní veřejnosti.
DeepSeek vyvolává značné obavy.
DeepSeek je startup se sídlem v Číně. Přestože se vyvíjí od roku 2023, produkty DeepSeek získaly významnou pozornost až poté, co společnost 20. ledna představila svůj model uvažování R1.
Po bezplatném vydání v obchodech s aplikacemi pro chytré telefony se aplikace DeepSeek s umělou inteligencí stala během posledního lednového týdne jednou z nejstahovanějších aplikací v USA a na zhruba 140 dalších trzích.
Konkurenti DeepSeeku přístup čínské společnosti chválí, ale jeho popularita vedla také ke značným kontroverzím a obavám, včetně rizika neoprávněného shromažďování uživatelských dat.
Zdroj: https://tuoitre.vn/tra-loi-kim-chi-co-nguon-goc-tu-trung-quoc-tinh-bao-han-quoc-canh-bao-nguy-co-tu-deepseek-20250209184614981.htm
Komentář (0)