Evitar que la tecnología cruce los límites éticos

El uso cada vez más extendido de la IA con fines poco éticos ha suscitado exigencias urgentes de control tecnológico y una mayor responsabilidad por parte del usuario.

Gracias a su rápido desarrollo, la inteligencia artificial (IA) está generando una revolución en numerosos ámbitos, desde la sanidad y la educación hasta los negocios y la vida cotidiana. Sin embargo, los aspectos negativos de esta tecnología plantean importantes desafíos para la gestión y el control de la información en el ciberespacio.

Inundados de noticias falsas generadas por IA

Las noticias falsas generadas por IA se difunden en las plataformas de redes sociales principalmente para atraer visitas, "me gusta", aumentar las interacciones para vender en línea o lucrarse a través de la plataforma.

Quienes crean noticias falsas suelen aprovechar temas de actualidad que preocupan a la opinión pública. Por ejemplo, tras un grave accidente de tráfico ocurrido el 17 de septiembre en el mercado de Tan Long, comuna de Lao Bao, provincia de Quang Tri , que dejó 12 heridos y fallecidos, aparecieron en las redes sociales numerosas imágenes desgarradoras que conmovieron a muchos usuarios. Tras determinar que estas imágenes habían sido creadas por inteligencia artificial, la policía de la comuna de Lao Bao emitió una advertencia sobre la difusión de imágenes falsas que generan confusión. Esta práctica no solo propaga información errónea, sino que también dificulta la investigación.

De manera similar, aprovechando la atención pública que suscitó el naufragio del barco turístico Blue Bay 58 en la bahía de Ha Long, provincia de Quang Ninh, el 19 de julio, que causó la muerte de decenas de personas, numerosas cuentas de redes sociales publicaron imágenes y relatos conmovedores sobre las víctimas. Sin embargo, gran parte de este contenido era falso, creado mediante inteligencia artificial para apelar a las emociones y generar interacción entre los usuarios de redes sociales. Cabe destacar que la difusión de imágenes falsas con un contenido excesivamente sentimental podría causar un mayor trauma emocional a las familias de las víctimas.

Gracias a la constante mejora de la tecnología de IA, crear un vídeo con contenido atractivo y acorde a la intención del usuario solo lleva unos minutos con unos simples comandos. En particular, las plataformas de IA de nueva generación como KlingAI, Veo 3 y Sora son muy populares entre usuarios de todo el mundo, incluyendo Vietnam.

Además, la tecnología deepfake —una combinación de aprendizaje profundo y falsificación— ha generado gran preocupación a nivel mundial, ya que permite crear imágenes, sonidos y vídeos realistas muy difíciles de detectar como falsos. En consecuencia, se han producido numerosos fraudes relacionados con esta tecnología tanto en Vietnam como en el resto del mundo.

El teniente general Nguyen Minh Chinh, vicepresidente permanente de la Asociación Nacional de Ciberseguridad, señaló que existe una tendencia creciente al abuso de la IA con fines ilícitos. En particular, los ciberdelincuentes explotan la IA como servicio (servicios que proporcionan herramientas y aplicaciones de IA) para crear código malicioso, voces, rostros y textos falsificados, entre otros, con el fin de cometer fraudes, atacar redes, infiltrarse en sistemas de datos e incluso provocar inestabilidad en la seguridad y dañar la reputación de organizaciones, empresas y líderes.

Según el Sr. Tran Ngoc Anh, Director Técnico de Cyber ​​Peace Company Limited (CyPeace), uno de los riesgos para los usuarios de IA es que pueden recibir información falsa generada por la propia herramienta. Además, existen otros problemas como la divulgación de información confidencial y datos personales.

Se difunden imágenes falsas en internet para "provocar lágrimas" en los espectadores, atrayendo así "me gusta" y aumentando las interacciones (Captura de pantalla).

Aumentar la responsabilidad del usuario

Antes de que existan medidas tecnológicas y legales para controlar estrictamente el desarrollo y el uso de la IA, los usuarios deben utilizar esta tecnología de forma proactiva y responsable.

El experto en ciberseguridad Vu Ngoc Son, jefe del Departamento de Tecnología de la Asociación Nacional de Ciberseguridad, señaló que los seres humanos son quienes explotan y utilizan la IA, por lo que los aspectos positivos y negativos de esta tecnología están estrechamente ligados a ellos. Si los usuarios están capacitados y la aplican con buenos fines, la tecnología potenciará sus ventajas. Por el contrario, si los usuarios de IA carecen de conocimientos o la utilizan con fines ilícitos, las consecuencias pueden ser graves. «Para utilizar la IA de forma eficaz, es fundamental centrarse en la creación de equipos y procesos. La IA solo demuestra su valor cuando está en manos de quienes saben dominarla», afirmó el experto en ciberseguridad.

Ante el peligro que representan los deepfakes, la principal herramienta para el fraude tecnológico en la actualidad, el Ministerio de Finanzas, durante la elaboración de la Ley de Inversión y Negocios, enfatizó la necesidad de regular el negocio de la tecnología deepfake como una actividad sujeta a condiciones para prevenir el abuso tecnológico que cause disrupción informativa y fraude. Según el Ministerio de Finanzas, actualmente, el negocio de la tecnología deepfake es un campo emergente que plantea riesgos complejos para la seguridad y el orden, pero no está regulado como una actividad sujeta a condiciones.

Según el abogado Tran Anh Tuan (Colegio de Abogados de Hanói), si se utiliza la IA para crear contenido sin autorización, especialmente si se trata de información falsa, fraudulenta o engañosa, podría infringir el Código Civil. En consecuencia, los infractores estarán sujetos a sanciones administrativas o a la obligación de indemnizar por daños y perjuicios. En caso de consecuencias graves, podría iniciarse un proceso penal. «Los usuarios deben ser cautelosos al interactuar con la IA y utilizarla, evitando a toda costa aprovecharse de ella para obtener visualizaciones y "me gusta"; deben ser más responsables y cumplir con la ley tanto al usar la IA como al participar en el entorno en línea», recomendó el abogado Tuan.

El teniente general Nguyen Minh Chinh enfatizó que el factor clave para el desarrollo sostenible de la IA son los recursos humanos. Desde investigadores, ingenieros y expertos en ciberseguridad hasta gerentes y usuarios, todos deben contar con los conocimientos, las habilidades, la ética y la conciencia legal necesarios. Según el Sr. Chinh, este equipo no solo construye y opera los sistemas de IA, sino que también constituye la fuerza fundamental para prevenir, detectar y combatir los delitos informáticos de alta tecnología en el ciberespacio.

Vietnam tendrá una Ley sobre Inteligencia Artificial.

En una reciente conferencia científica nacional sobre IA, el ministro de Ciencia y Tecnología, Nguyen Manh Hung, afirmó que la IA ofrece grandes oportunidades, pero también plantea numerosos problemas en materia de ética, empleo y confianza social. Por lo tanto, la IA debe desarrollarse de forma rápida, segura y ética.

Según el ministro Nguyen Manh Hung, la IA no reemplaza a los humanos, sino que los apoya y les brinda asistencia. La IA es una herramienta poderosa, pero los humanos son quienes toman las decisiones; por lo tanto, la IA debe apoyar, no reemplazar, el pensamiento, los valores y las responsabilidades humanas. «El Ministerio de Ciencia y Tecnología emitirá un Código Nacional de Ética de la IA en consonancia con los estándares internacionales, pero adaptado a la práctica vietnamita, y al mismo tiempo desarrollará una Ley y una estrategia de IA», informó el ministro Nguyen Manh Hung.

Fuente: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm