Los piratas informáticos pueden obtener información confidencial de la empresa "confiándola" a un chatbot de IA

Según los expertos en tecnología, mediante una serie de indicaciones sofisticadas, los piratas informáticos pueden penetrar en la base de datos "confidencial" de una empresa sin ser detectados.

Resumen del evento OpenInfra & Cloud Native Day Vietnam 2025 con el tema "La era del avance digital de Vietnam" - Foto: CHI HIEU

La inteligencia artificial (IA) aporta muchos valores, especialmente ahora que está integrada por muchas empresas para dar servicio a usuarios finales como empleados de la empresa, clientes... Desde aquí, los sistemas de chatbot integrados con IA pueden convertirse en una "puerta estrecha" que ayude a los hackers a atacar y robar información de los sistemas de almacenamiento de datos.

"Actualmente, existen muchos métodos para atacar los modelos de IA, el más común de los cuales es el 'envenenamiento de contenido', que parece ser 'invisible' para los sistemas tradicionales de protección de la información", advirtió el Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam, en el evento OpenInfra & Cloud Native Day Vietnam 2025 celebrado el 26 de julio en Hanoi .

El evento fue organizado por la Asociación de Internet de Vietnam (VIA) en coordinación con la Comunidad de Infraestructura Abierta de Vietnam (VietOpenInfra), el Club de Computación en la Nube y Centros de Datos de Vietnam (VNCDC), con el apoyo del Ministerio de Ciencia y Tecnología .

El 90% de las empresas utilizan plataformas o software abiertos.

En su discurso de apertura, el Sr. Vu The Binh, vicepresidente y secretario general de la Asociación de Internet de Vietnam, destacó la importancia de la infraestructura abierta y el código fuente abierto en el proceso nacional de transformación digital.

En el contexto de los rápidos cambios en la tecnología global, el Sr. Binh afirmó que la infraestructura abierta continúa desarrollándose como base para la innovación, dado que más del 90% de las empresas utilizan plataformas o software abiertos de diversas formas.

Según una encuesta de Red Hat (2024), el 82 % de los líderes tecnológicos consideran que las plataformas y el software abiertos son clave para impulsar la transformación digital y acelerar la innovación. Plataformas como Kubernetes, OpenStack, Linux, Ceph y OpenTelemetry desempeñan un papel cada vez más importante en la operación de sistemas de IA, IoT, 5G/6G y Cloud Native.

“Hace 10 años, la nube podía confundirse con nubes en el cielo, y el código abierto sonaba como un 'secreto de artes marciales'. Pero hoy estamos aquí, conectándonos con la comunidad global de Infraestructura Abierta en más de 180 países, convirtiendo juntos líneas de código en la fuerza motriz de la innovación”, compartió el Sr. Vu The Binh.

Chatbot con IA: una "puerta estrecha" para que los hackers penetren en el sistema.

"Actualmente, muchas empresas están aplicando con firmeza la eficacia de las plataformas abiertas y receptivas que integran sistemas como chatbots de IA para ayudar a mejorar el rendimiento laboral y la experiencia del usuario.

También desde aquí se utilizan muchos métodos de ataque contra los modelos de IA, incluidos los ataques de "envenenamiento de contenido", advirtió Dao Viet Hung, director nacional de Akamai Technologies Vietnam.

Comentó que las empresas vietnamitas, al implementar IA, aún desconocen mucho sobre esta forma de ataque.

En consecuencia, los ciberdelincuentes utilizan el método de solicitar y volver a enseñar continuamente información falsa al modelo de IA, provocando un "envenenamiento" de la información.

Si la información del sistema en la nube ha sido "infectada" y no se detecta, y continúa utilizándose, proporcionará información incorrecta o aprovechará esta vulnerabilidad para infiltrarse en la base de datos con el fin de obtener información.

Sr. Dao Viet Hung, director nacional de Akamai Technologies Vietnam - Foto: CHI HIEU

El señor Dao Viet Hung citó un caso poco común en el que se convenció al sistema de chatbot de ventas en línea de una compañía automotriz para que vendiera un automóvil nuevo por tan solo 1 dólar.

La razón es que, durante el proceso de intercambio y negociación con el chatbot, este cliente encontró la manera de "colarse" en la base de datos y convencer al chatbot de que aceptara la solicitud anterior.

Otro ejemplo es cuando un hacker logró obtener todos los documentos confidenciales y organigramas de la empresa simplemente formulando las preguntas correctas y enviándolas al chatbot interno de IA.

Ante ese riesgo, el Sr. Dao Viet Hung compartió la solución de seguridad de IA para que la IA pueda proteger a la IA; esta es una forma utilizada por muchas grandes empresas en el mundo .

Con este método de seguridad, los datos almacenados integran múltiples capas de protección, lo que dificulta su "infección".

El sistema de seguridad de IA puede detectar qué información es segura y qué información presenta riesgos potenciales de ataque, a partir de lo cual dispondrá de un plan de gestión rápido y adecuado...

Volver al tema

piedad filial

Fuente: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm