Los piratas informáticos pueden obtener información confidencial de la empresa al "hablar" con un chatbot de IA

Según los expertos en tecnología, mediante una serie de indicaciones sofisticadas, los piratas informáticos pueden penetrar en la base de datos "confidencial" de una empresa sin ser detectados.

Resumen del evento OpenInfra & Cloud Native Day Vietnam 2025, cuyo tema es "La era de la innovación digital en Vietnam". Foto: CHI HIEU

La Inteligencia Artificial (IA) aporta muchos valores, especialmente ahora integrada por muchas empresas para servir a usuarios finales como empleados de la empresa, clientes... A partir de aquí, los sistemas de chatbot integrados con IA pueden convertirse en una "puerta estrecha" para ayudar a los piratas informáticos a atacar y robar información en los sistemas de almacenamiento de datos.

"Actualmente, existen muchos métodos para atacar los modelos de IA, el más común de los cuales es el 'envenenamiento de contenido', que parece ser 'invisible' para los sistemas tradicionales de protección de la información", advirtió el Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam, en el evento OpenInfra & Cloud Native Day Vietnam 2025 celebrado el 26 de julio en Hanói .

El evento fue organizado por la Asociación de Internet de Vietnam (VIA) en coordinación con la Comunidad de Infraestructura Abierta de Vietnam (VietOpenInfra), el Club de Centros de Datos y Computación en la Nube de Vietnam (VNCDC), con el apoyo del Ministerio de Ciencia y Tecnología .

El 90% de las empresas utilizan plataformas o software abiertos

En su discurso de apertura, el Sr. Vu The Binh, vicepresidente y secretario general de la Asociación de Internet de Vietnam, enfatizó la importancia de la infraestructura abierta y el código fuente abierto en el proceso de transformación digital nacional.

En el contexto de los rápidos cambios en la tecnología global, el Sr. Binh dijo que la infraestructura abierta continúa desarrollándose como base para la innovación cuando más del 90% de las empresas utilizan plataformas abiertas o software en muchas formas.

Según una encuesta de Red Hat (2024), el 82 % de los líderes tecnológicos considera que las plataformas y el software abiertos son clave para impulsar la transformación digital y acelerar la innovación. Plataformas como Kubernetes, OpenStack, Linux, Ceph y OpenTelemetry desempeñan un papel cada vez más importante en la operación de sistemas de IA, IoT, 5G/6G y nativos de la nube.

Hace 10 años, la nube podía confundirse con nubes en el cielo, y el código abierto sonaba a un 'secreto de artes marciales'. Pero hoy estamos aquí, conectando con la comunidad global de Infraestructura Abierta en más de 180 países, y juntos transformando líneas de código en el motor de la innovación, compartió el Sr. Vu The Binh.

Chatbot de IA: una "puerta estrecha" para que los hackers penetren en el sistema

Actualmente, muchas empresas están aplicando con fuerza la eficacia de plataformas abiertas y receptivas que integran sistemas como los chatbots de IA para ayudar a mejorar el rendimiento laboral y optimizar la experiencia del usuario.

También desde aquí se pueden utilizar numerosos métodos de ataque a los modelos de IA, incluidos ataques de "envenenamiento de contenido", advirtió el Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam.

Comentó que las empresas vietnamitas al implementar IA aún no saben mucho sobre esta forma de ataque.

En consecuencia, los malos actores utilizan el método de preguntar y volver a enseñar continuamente al modelo de IA información falsa, lo que provoca un "envenenamiento" de la información.

Si la información del sistema en la nube ha sido "infectada" y no es detectada y continúa siendo utilizada, dará información incorrecta o utilizará esta vulnerabilidad para colarse en la base de datos con el fin de obtener información.

Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam - Foto: CHI HIEU

El Sr. Dao Viet Hung citó una historia poco común en la que el sistema de chatbot de ventas en línea de una empresa automotriz fue convencido de vender un auto nuevo por solo $1.

La razón es que durante el proceso de intercambio y negociación con el chatbot, este cliente encontró una manera de "colonizarse" en la base de datos y convencer al chatbot para que aceptara la solicitud anterior.

Otro ejemplo es cuando los piratas informáticos obtuvieron con éxito todos los documentos confidenciales y organigramas de una empresa simplemente redactando preguntas apropiadas y enviándolas al chatbot de IA interno.

A partir de ese riesgo, el Sr. Dao Viet Hung compartió la solución de seguridad de IA para que la IA pueda proteger a la IA, esta es una forma utilizada por muchas grandes empresas en el mundo .

Con este método de seguridad, los datos almacenados integran múltiples capas de protección, lo que dificulta que sean “infectados”.

El sistema de seguridad de IA puede detectar qué información está limpia y qué información tiene riesgos potenciales de ataque, a partir de lo cual tendrá un plan de manejo rápido y adecuado...

Volver al tema

PIEDAD

Fuente: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm