El código fuente del software de IA DeepSeek revela muchas sorpresas.

(Dan Tri) - Investigadores de seguridad han descubierto cosas sorprendentes en el código fuente de DeepSeek, un software de IA originario de China que ha causado revuelo a nivel mundial en los últimos días.

Lo especial de DeepSeek es que el software se desarrolla como código abierto, lo que permite a la comunidad contribuir y a los desarrolladores integrar esta herramienta de IA en sus productos.

En el contexto del revuelo que ha causado DeepSeek a nivel mundial, expertos de la empresa de seguridad Wiz (EE. UU.) han revisado cuidadosamente el código fuente abierto de esta herramienta de IA.

Los expertos descubrieron que la herramienta exponía muchas de sus bases de datos importantes, incluyendo registros del sistema, contenido de comandos de usuario e incluso tokens de autenticación de la API (tokens de seguridad utilizados para autenticar el acceso a las interfaces de programación de DeepSeek)…

Se descubrió que la herramienta DeepSeek filtraba mucha información confidencial en su código fuente (Foto ilustrativa: CNBC).

En total, más de un millón de registros de datos importantes de DeepSeek son accesibles a personas ajenas sin restricciones. Cabe destacar que estos datos se pueden encontrar mediante técnicas sencillas que explotan el código fuente, en lugar de tener que realizar búsquedas exhaustivas y explotarlo de forma compleja.

“Esto fue un grave error por parte de DeepSeek porque el nivel de seguridad era muy bajo y teníamos un acceso muy alto sin ninguna restricción en los permisos”, dijo Ami Luttwak, CTO de Wiz.

"Esto demuestra que DeepSeek no es lo suficientemente seguro como para que los usuarios proporcionen ninguno de sus datos sensibles e importantes", añadió Luttwak.

Los expertos en seguridad también temen que los ciberdelincuentes puedan aprovechar estas bases de datos filtradas para penetrar más profundamente en el sistema de DeepSeek, ejecutar código malicioso para robar información de los usuarios o manipular las respuestas que esta herramienta de IA proporciona a los usuarios.

“Desde una perspectiva de seguridad, es alarmante construir un modelo de IA y dejar la puerta trasera completamente abierta”, comentó Jeremiah Fowler, investigador de seguridad independiente, tras leer el informe publicado por Wiz.

“Esto significa que cualquiera con conexión a internet puede acceder a esta herramienta de IA y manipularla, lo que supone un enorme riesgo para las organizaciones y los usuarios”, añadió Fowler.

Todavía no está claro si algún ciberdelincuente se ha aprovechado de los datos confidenciales filtrados de DeepSeek para llevar a cabo planes ilícitos.

Los expertos en seguridad de Wiz han intentado contactar con DeepSeek para informarles de sus hallazgos.

DeepSeek guardó silencio y no respondió. Sin embargo, más de media hora después de que se enviara el informe por correo electrónico, los expertos de Wiz descubrieron que los datos filtrados en el código fuente de DeepSeek ya no eran accesibles, lo que significa que DeepSeek había intervenido para solucionar el problema.

DeepSeek es una startup fundada en 2023 por Luong Van Phong. La empresa tiene su sede en Hangzhou, China.

El 20 de enero, DeepSeek lanzó a sus usuarios una herramienta de IA llamada R1. Esta herramienta causó furor a nivel mundial gracias a su rápida e impresionante capacidad de respuesta.

Muchos usuarios también califican a DeepSeek R1 por proporcionar respuestas más inteligentes, precisas y rápidas que otras herramientas de IA como ChatGPT, Gemini o Llama...

Lo más sorprendente de DeepSeek es que este modelo de IA solo costó 5,6 millones de dólares construirlo y operarlo, mientras que las empresas tecnológicas estadounidenses gastan cientos, incluso miles de millones de dólares, para desarrollar y operar sus propios modelos de IA.

Otro aspecto que hace que DeepSeek atraiga la atención del mundo tecnológico es que esta herramienta de IA nació y se desarrolló en un momento en que el gobierno de Estados Unidos aplicaba sanciones, impidiendo el suministro de chips de IA de alto rendimiento a empresas chinas.

Eso significa que DeepSeek se desarrolló y funciona con chips de IA de bajo rendimiento, pero aun así muestra una potencia impresionante.

La aparición de DeepSeek promete crear una feroz carrera en el desarrollo de la IA entre las dos superpotencias, Estados Unidos y China.

Sin embargo, además del gran aprecio, a muchas personas les preocupa que DeepSeek sea una herramienta del gobierno de Pekín para recopilar información de los usuarios mediante preguntas o respuestas que sean favorables a las políticas chinas.

Fuente: https://dantri.com.vn/suc-manh-so/ma-nguon-cua-phan-mem-ai-deepseek-he-lo-nhieu-dieu-bat-ngo-20250131004242202.htm