Resumen del evento OpenInfra & Cloud Native Day Vietnam 2025, cuyo tema es "La era de la revolución digital en Vietnam". Foto: CHI HIEU
La Inteligencia Artificial (IA) aporta muchos valores, especialmente ahora integrada por muchas empresas para servir a usuarios finales como empleados de la empresa, clientes... A partir de aquí, los sistemas de chatbot integrados con IA pueden convertirse en una "puerta estrecha" para que los piratas informáticos ataquen y roben información en los sistemas de almacenamiento de datos.
"Actualmente, existen numerosos métodos para atacar los modelos de IA, siendo el más común el 'envenenamiento de contenido', que parece ser 'invisible' para los sistemas tradicionales de protección de la información", advirtió el Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam, en el evento OpenInfra & Cloud Native Day Vietnam 2025, celebrado el 26 de julio en Hanói .
El evento fue organizado por la Asociación de Internet de Vietnam (VIA) en coordinación con la Comunidad de Infraestructura Abierta de Vietnam (VietOpenInfra), el Club de Centros de Datos y Computación en la Nube de Vietnam (VNCDC), con el apoyo del Ministerio de Ciencia y Tecnología .
El 90% de las empresas utilizan plataformas o software abiertos
En su discurso de apertura, el Sr. Vu The Binh, vicepresidente y secretario general de la Asociación de Internet de Vietnam, enfatizó la importancia de la infraestructura abierta y el código fuente abierto en el proceso de transformación digital nacional.
En el contexto de los rápidos cambios en la tecnología global, el Sr. Binh dijo que la infraestructura abierta continúa desarrollándose como base para la innovación cuando más del 90% de las empresas utilizan plataformas abiertas o software en muchas formas.
Según una encuesta de Red Hat (2024), el 82 % de los líderes tecnológicos considera que las plataformas y el software abiertos son clave para impulsar la transformación digital y acelerar la innovación. Plataformas como Kubernetes, OpenStack, Linux, Ceph y OpenTelemetry desempeñan un papel cada vez más importante en la operación de sistemas de IA, IoT, 5G/6G y nativos de la nube.
Hace 10 años, la nube podía confundirse con nubes en el cielo, y el código abierto sonaba a un 'secreto de artes marciales'. Pero hoy estamos aquí, conectando con la comunidad global de Infraestructura Abierta en más de 180 países, y juntos transformando líneas de código en el motor de la innovación, compartió el Sr. Vu The Binh.
Chatbot de IA: una "puerta estrecha" para que los hackers penetren en el sistema
Actualmente, muchas empresas están aplicando con fuerza la eficacia de plataformas abiertas y receptivas que integran sistemas como chatbots de IA para ayudar a mejorar el rendimiento laboral y optimizar la experiencia del usuario.
También desde aquí se pueden utilizar numerosos métodos de ataque a los modelos de IA, incluidos ataques de "envenenamiento de contenido", advirtió el Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam.
Comentó que las empresas vietnamitas al implementar IA aún no saben mucho sobre esta forma de ataque.
En consecuencia, los actores maliciosos utilizan el método de preguntar y volver a enseñar continuamente al modelo de IA información falsa, lo que provoca un "envenenamiento" de la información.
Si la información del sistema en la nube ha sido "infectada" y no es detectada y continúa siendo utilizada, proporcionará información incorrecta o utilizará esta vulnerabilidad para colarse en la base de datos con el fin de obtener información.
Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam - Foto: CHI HIEU
El Sr. Dao Viet Hung citó una historia poco común: un sistema de chatbot de ventas en línea de una empresa automotriz fue convencido de vender un auto nuevo por solo $1.
La razón es que durante el proceso de intercambio y negociación con el chatbot, este cliente encontró una manera de "colarse" en la base de datos y convencer al chatbot para que aceptara la solicitud anterior.
Otro ejemplo es cuando los piratas informáticos obtuvieron con éxito todos los documentos confidenciales y organigramas de una empresa simplemente redactando preguntas apropiadas y enviándolas al chatbot de inteligencia artificial interno.
A partir de ese riesgo, el Sr. Dao Viet Hung compartió la solución de seguridad de IA para que la IA por sí misma pueda proteger a la IA, esta es una forma utilizada por muchas grandes empresas en el mundo .
Con este método de seguridad, los datos almacenados integran múltiples capas de protección, lo que dificulta su “infección”.
El sistema de seguridad de IA puede detectar qué información está limpia y qué información tiene riesgos potenciales de ataque, a partir de lo cual se elaborará un plan de manejo rápido y adecuado...
Fuente: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm
Kommentar (0)