Tenga cuidado con las imágenes generadas por IA cuando la seguridad de la información esté amenazada

La tendencia de crear imágenes usando IA se está extendiendo, lo que puede causar distorsión de la información, afectar la seguridad de la red y la soberanía nacional durante los días festivos más importantes.

En la era del rápido desarrollo tecnológico, la tendencia de usar inteligencia artificial (IA) para crear imágenes se está extendiendo en las redes sociales, atrayendo la atención de muchos usuarios, especialmente jóvenes. Las fotos creadas con IA son sumamente creativas y sirven para entretener, personalizar el contenido y expresar la personalidad. Sin embargo, tras este atractivo se esconden posibles riesgos para la seguridad y la protección de la información.

¿Entretenimiento o potencial detonante?

Según la Policía de Hanói , recientemente se ha popularizado el uso de inteligencia artificial (IA) para crear imágenes, lo que ha atraído la atención de muchos usuarios. Si bien su principal objetivo es el entretenimiento, la difusión de estas imágenes conlleva numerosos riesgos potenciales que afectan directamente la seguridad de la información, especialmente durante el 80.º aniversario de la Revolución de Agosto y el Día Nacional del país, el 2 de septiembre.

Actualmente, los usuarios pueden acceder y crear imágenes fácilmente mediante software de IA y usarlas como avatares, noticias y artículos en redes sociales como Zalo, TikTok, Facebook, etc. Sin embargo, si los usuarios no son cuidadosos, políticamente insensibles y no controlan las imágenes generadas por la IA, podrían usar imágenes inexactas, como imágenes de un mapa de Vietnam sin información sobre los archipiélagos de Hoang Sa y Truong Sa; imágenes inapropiadas para los vietnamitas. El uso de estas imágenes inexactas tendrá un gran impacto en la opinión pública en el ciberespacio y puede generar una percepción errónea sobre cuestiones de soberanía fronteriza, así como sobre la historia y las tradiciones culturales nacionales.

IA crea una imagen de Ao Dai impresa con un mapa de Vietnam donde falta el archipiélago de Hoang Sa-Truong Sa. (Foto: Policía de la Ciudad de Hanói)

Un usuario de redes sociales en Hanói usó un software de IA para crear una foto de un ao dai con un mapa de Vietnam impreso y la publicó en TikTok para responder a la tendencia del "orgullo nacional". Sin embargo, la imagen creada por IA no incluía los archipiélagos de Hoang Sa y Truong Sa. La publicación se viralizó rápidamente, atrayendo miles de visualizaciones y compartidos, pero también generó fuertes reacciones en la comunidad en línea. Las autoridades intervinieron, exigiendo la eliminación del contenido y advirtiendo contra la difusión de información falsa relacionada con la soberanía nacional.

Advertencia de las autoridades

Según el Sr. Vu Ngoc Son, Director Técnico de la Compañía Nacional de Tecnología de Ciberseguridad de Vietnam (NCS), en los últimos tiempos, la IA y las aplicaciones basadas en IA han experimentado un fuerte desarrollo en diversos ámbitos de la vida. ChatGPT es, de hecho, una aplicación de fácil acceso para la mayoría de las personas que no son profesionales de TI, por lo que rápidamente desató un gran revuelo.

En términos tecnológicos, ChatGPT no representa un gran avance en comparación con otras tecnologías basadas en IA, pero en cuanto a datos, ha tenido mucho éxito al basarse en una gran cantidad de datos en diversos campos, lo que hace que los usuarios sientan que lo saben todo. Ese es también el atractivo de ChatGPT hasta el momento.

En términos de seguridad, ChatGPT se creó para ofrecer un servicio de preguntas y respuestas, por lo que el mayor riesgo reside en que el contenido que ChatGPT responde a los usuarios sea controlado o manipulado para que proporcione información falsa. Actualmente, no hay evidencia de que ChatGPT pueda ser atacado, ya que esta empresa controla, filtra e incluso etiqueta los datos de entrada de forma humana, por lo que los riesgos mencionados son limitados. Sin embargo, en el futuro, cuando este servicio siga expandiéndose y la demanda de datos de entrada adicionales aumente drásticamente, los riesgos del control de datos exigirán a los fabricantes implementar medidas de seguridad más estrictas.

El software de IA puede aportar muchos beneficios, como la capacidad de crear imágenes atractivas y creativas, pero si se usa de forma irresponsable, puede convertirse en un arma de doble filo. El Departamento de Ciberseguridad y Prevención de Delitos de Alta Tecnología de la Policía de Hanói recomienda a las personas:

1. No cree ni utilice bajo ninguna circunstancia imágenes del mapa de Vietnam ni imágenes que sean incorrectas, violen normas legales o sean incompatibles con las tradiciones, costumbres y cultura vietnamitas.

2. Compartir regularmente información de alerta con familiares, amigos y la comunidad para crear conciencia y prevenir conspiraciones y maniobras de fuerzas hostiles. No permitir que personas aprovechen los acontecimientos políticos importantes del país para cometer actos ilegales.

3. Tenga cuidado al instalar y utilizar aplicaciones de IA no verificadas para evitar el riesgo de que se recopilen sus datos personales.

4. Tenga sentido de responsabilidad hacia usted mismo y hacia la comunidad al participar en actividades en las redes sociales.

Las infracciones se tratarán estrictamente de acuerdo con las disposiciones de la ley.

Como usuario, cada individuo debe tener un claro sentido de responsabilidad al participar en el ciberespacio. La "captación de tendencias" no debe ser sinónimo de ignorancia ni de apoyo involuntario a malas prácticas. En cuanto a los medios de comunicación, su labor no es solo informar, sino también orientar a la opinión pública, contribuyendo a la protección de la verdad y los valores nacionales.

Fuente: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html