Tenga cuidado con las imágenes generadas por IA cuando la seguridad de la información esté amenazada

La tendencia de crear imágenes utilizando IA se está extendiendo, lo que supone un riesgo de desinformación y afecta la ciberseguridad y la soberanía nacional durante los días festivos importantes.

En la era del rápido desarrollo tecnológico, la tendencia de usar inteligencia artificial (IA) para crear imágenes se está extendiendo en las redes sociales, atrayendo la atención de muchos usuarios, especialmente de los jóvenes. Las fotos creadas con IA son sumamente creativas y sirven para entretener, personalizar el contenido y expresar la personalidad. Sin embargo, detrás de esta atracción se esconden posibles riesgos para la seguridad y la protección de la información.

¿Entretenimiento o potencial detonante?

Según la Policía de Hanói , recientemente se ha popularizado el uso de inteligencia artificial (IA) para crear imágenes, atrayendo la atención de muchos usuarios. Si bien su principal objetivo es el entretenimiento, la difusión de estas imágenes conlleva numerosos riesgos que afectan directamente la seguridad de la información, especialmente durante el 80.º aniversario de la Revolución de Agosto y el Día Nacional del 2 de septiembre.

Actualmente, los usuarios pueden acceder y crear imágenes fácilmente mediante software de IA, usarlas como avatares e insertar noticias y artículos en redes sociales como Zalo, TikTok y Facebook. Sin embargo, si no son cuidadosos, no son políticamente sensibles y no controlan las imágenes generadas por la IA, podrían usar imágenes inexactas, como imágenes del mapa de Vietnam sin información sobre los archipiélagos de Hoang Sa y Truong Sa; imágenes inapropiadas para los vietnamitas. El uso de estas imágenes inexactas afectará gravemente a la opinión pública en el ciberespacio y puede generar una percepción errónea sobre la soberanía fronteriza, la historia y las tradiciones culturales nacionales.

La IA crea la imagen de un ao dai impreso con un mapa de Vietnam, sin los archipiélagos de Hoang Sa y Truong Sa. (Foto: Policía de la Ciudad de Hanói)

Un usuario de redes sociales en Hanói utilizó un software de inteligencia artificial para crear una foto de un ao dai con un mapa de Vietnam impreso y la publicó en TikTok para responder a la tendencia del "orgullo nacional". Sin embargo, la imagen creada por la IA no incluía las islas Paracel y Spratly. La publicación se viralizó rápidamente, atrayendo miles de visualizaciones y compartidos, pero también enfrentó una fuerte reacción de la comunidad en línea. Las autoridades intervinieron, exigiendo la eliminación del contenido y advirtiendo contra la difusión de información falsa relacionada con la soberanía nacional.

Advertencia de las autoridades

Según el Sr. Vu Ngoc Son, Director Técnico de la Compañía Nacional de Tecnología de Ciberseguridad de Vietnam (NCS), en los últimos tiempos, la IA y las aplicaciones basadas en IA han experimentado un fuerte desarrollo en diversos ámbitos de la vida. ChatGPT es, de hecho, una aplicación de fácil acceso para la mayoría de las personas sin conocimientos de informática, por lo que rápidamente desató un gran revuelo.

En términos tecnológicos, ChatGPT no representa un gran avance en comparación con otras tecnologías basadas en IA, pero en términos de datos, ChatGPT ha tenido mucho éxito al basarse en una gran cantidad de datos en diversos campos, lo que hace que los usuarios sientan que lo saben todo. Ese es también el atractivo de ChatGPT hasta el momento.

En términos de seguridad, ChatGPT se creó para ofrecer servicios de preguntas y respuestas, por lo que el mayor riesgo radica en que el contenido que ChatGPT responde a los usuarios sea controlado y manipulado para que proporcione información falsa. Actualmente, no hay evidencia de que ChatGPT pueda ser atacado, ya que esta empresa controla, filtra e incluso etiqueta los datos de entrada, por lo que los riesgos mencionados son limitados. Sin embargo, en el futuro, cuando este servicio continúe expandiéndose, la necesidad de más datos de entrada aumentará drásticamente, y los riesgos del control de datos requerirán que los fabricantes implementen medidas de seguridad más estrictas.

El software de IA puede aportar muchos beneficios, como la capacidad de crear imágenes atractivas y creativas, pero si se usa de forma irresponsable, puede convertirse en un arma de doble filo. El Departamento de Ciberseguridad y Prevención de Delitos de Alta Tecnología de la Policía de Hanói recomienda:

1. No cree ni utilice bajo ninguna circunstancia imágenes del mapa de Vietnam ni imágenes que sean incorrectas, violen la ley o sean incompatibles con las tradiciones, costumbres y cultura vietnamitas.

2. Compartir regularmente información de alerta con familiares, amigos y la comunidad para crear conciencia y prevenir conspiraciones y maniobras de fuerzas hostiles. No permitir que personas aprovechen los acontecimientos políticos importantes del país para cometer actos ilegales.

3. Tenga cuidado al instalar y utilizar aplicaciones de IA no verificadas para evitar el riesgo de que se recopilen sus datos personales.

4. Tenga sentido de responsabilidad hacia usted mismo y hacia la comunidad al participar en actividades en las redes sociales.

Las infracciones se tratarán estrictamente de acuerdo con las disposiciones de la ley.

Como usuario, cada individuo debe tener un claro sentido de responsabilidad al participar en el ciberespacio. La "captación de tendencias" no debe ser sinónimo de ignorancia ni de apoyo involuntario a malas prácticas. En cuanto a los medios de comunicación, su tarea no es solo informar, sino también orientar a la opinión pública, contribuyendo a la protección de la verdad y los valores nacionales.

Fuente: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html