Evitar que la tecnología cruce los límites éticos.

El uso creciente de la IA con fines poco éticos ha creado una necesidad urgente de control de la tecnología y de una mayor responsabilidad de los usuarios.

Gracias a su rápido avance, la inteligencia artificial (IA) está revolucionando numerosos campos, desde la sanidad, la educación y los negocios hasta la vida cotidiana. Sin embargo, las desventajas de esta tecnología plantean importantes desafíos para la gestión y el control de la información en el ciberespacio.

Inundado de noticias falsas generadas por IA.

Las noticias falsas generadas por IA se difunden en las plataformas de redes sociales principalmente para obtener visualizaciones, "me gusta" e interacción para las ventas en línea o para obtener beneficios de la plataforma.

Quienes crean noticias falsas suelen aprovecharse de eventos de actualidad que captan la atención del público. Por ejemplo, tras el grave accidente de tráfico ocurrido el 17 de septiembre en el mercado de Tan Long, en la comuna de Lao Bao, provincia de Quang Tri , que dejó 12 víctimas mortales, circularon en redes sociales imágenes desgarradoras que conmovieron a muchos. Al identificar estas imágenes como generadas por inteligencia artificial, la policía de la comuna de Lao Bao emitió una advertencia sobre la difusión de estas imágenes falsas y engañosas. Este comportamiento no solo difunde información falsa, sino que también obstaculiza las investigaciones.

De igual manera, aprovechando la atención pública que generó el naufragio del barco turístico Green Bay 58 en la bahía de Ha Long, provincia de Quang Ninh, el 19 de julio, que dejó decenas de muertos, numerosas cuentas en redes sociales publicaron imágenes e historias conmovedoras sobre las víctimas. Sin embargo, una parte significativa de este contenido era falso, creado mediante inteligencia artificial para manipular emociones y atraer la interacción de los usuarios. Cabe destacar que el uso generalizado de imágenes falsas con una compasión exagerada podría traumatizar aún más a las familias de las víctimas.

Gracias a la constante mejora de la tecnología de IA, basta con unos minutos y unos sencillos comandos para crear un vídeo con contenido atractivo que se ajuste perfectamente a las intenciones del usuario. Entre las plataformas de IA de última generación, como KlingAI, Veo 3 y Sora, gozan de gran popularidad entre usuarios de todo el mundo, incluido Vietnam.

Además, la tecnología deepfake —una combinación de aprendizaje profundo y falsificación— también es una gran preocupación a nivel mundial, ya que puede utilizarse para crear imágenes, sonidos o vídeos tan reales que son muy difíciles de detectar como falsos. Como resultado, se han producido numerosas estafas relacionadas con esta tecnología tanto en Vietnam como en todo el mundo.

El Teniente General Nguyen Minh Chinh, Vicepresidente Permanente de la Asociación Nacional de Ciberseguridad, observó una creciente tendencia al abuso de la IA con fines ilegales. En concreto, los ciberdelincuentes están explotando la IA como servicio (herramientas y aplicaciones proporcionadas por IA) para crear malware, suplantar voces, rostros y textos, con fines de fraude, ciberataques, intrusión en sistemas de datos e incluso para desestabilizar la seguridad y dañar la reputación de organizaciones, empresas y líderes.

Según el Sr. Tran Ngoc Anh, Director Técnico de Hoa Binh Cyber ​​Space Company Limited (CyPeace), uno de los riesgos para los usuarios de IA es la posibilidad de recibir información errónea generada por la propia herramienta. Además, existen otros problemas, como la filtración de información confidencial y datos personales.

Se están difundiendo imágenes falsas en línea para "hacer llorar a los espectadores", ganando así "Me gusta" y aumentando la interacción (captura de pantalla).

Mejorar la responsabilidad del usuario

Antes de que se implementen medidas tecnológicas y legales para controlar estrictamente el desarrollo y el uso de la IA, los usuarios deben utilizar esta tecnología de manera proactiva y responsable.

El experto en ciberseguridad Vu Ngoc Son, director del Comité de Tecnología de la Asociación Nacional de Ciberseguridad, señaló que los seres humanos son quienes explotan y utilizan la IA, por lo que tanto sus aspectos positivos como negativos están estrechamente vinculados a ellos. Si los usuarios son hábiles y la aplican con buenos fines, la tecnología aprovechará sus ventajas. Por el contrario, si los usuarios de IA carecen de conocimientos o la explotan con fines ilegales, esto puede tener graves consecuencias. "Para usar y explotar la IA eficazmente, es necesario centrarse en la creación de equipos y procesos. La IA solo alcanza su valor cuando se pone en manos de quienes saben cómo dominarla", afirmó el experto en ciberseguridad.

Dados los peligros de la tecnología deepfake, una herramienta clave que facilita el ciberfraude actual, el Ministerio de Finanzas enfatizó durante la redacción de la Ley de Inversión y Negocios que el negocio de la tecnología deepfake debe regularse como un sector comercial condicional para prevenir el uso indebido de la tecnología que causa la disrupción de la información y el fraude. Según el Ministerio de Finanzas, el negocio de la tecnología deepfake es actualmente uno de los nuevos campos con riesgos potenciales complejos para la seguridad y el orden, pero no está regulado como un sector comercial condicional.

Según el abogado Tran Anh Tuan (Colegio de Abogados de Hanói), usar la IA para crear contenido sin autorización, especialmente para generar información falsa, inventada o fraudulenta, puede infringir las disposiciones del Código Civil. Los infractores pueden enfrentar sanciones administrativas o indemnizaciones por daños y perjuicios. En casos con consecuencias graves, se puede emprender una acción penal. «Los usuarios deben ser cautelosos al acceder y usar la IA, evitando a toda costa cualquier acción que la explote para obtener visualizaciones o "me gusta"; deben ser responsables y cumplir con la ley al usar la IA y participar en el entorno en línea», aconsejó el abogado Tuan.

El teniente general Nguyen Minh Chinh hizo hincapié en que el elemento central para el desarrollo sostenible de la IA son los recursos humanos. Desde investigadores e ingenieros hasta expertos en ciberseguridad, gerentes y usuarios, todos deben contar con los conocimientos, las habilidades, la ética y la conciencia legal necesarios. Según él, este equipo no solo se encarga de construir y operar los sistemas de IA, sino que también constituye la fuerza clave para prevenir, detectar y combatir los delitos de alta tecnología en el ciberespacio.

Vietnam tendrá una Ley sobre Inteligencia Artificial.

En una reciente conferencia científica nacional sobre IA, el ministro de Ciencia y Tecnología, Nguyen Manh Hung, afirmó que la IA ofrece grandes oportunidades, pero también plantea numerosos problemas en materia de ética, empleo y confianza social. Por lo tanto, el desarrollo de la IA debe ser rápido, seguro y humano.

Según el ministro Nguyen Manh Hung, la IA no reemplaza a los humanos, sino que los sirve, actuando como su asistente. La IA es una herramienta poderosa, pero los humanos son quienes toman las decisiones; por lo tanto, la IA debe apoyar, no reemplazar, el pensamiento, los valores y las responsabilidades humanas. "El Ministerio de Ciencia y Tecnología emitirá un código ético nacional para la IA que se ajuste a los estándares internacionales, pero que esté diseñado para adaptarse a la realidad vietnamita, y también desarrollará una ley y una estrategia de IA", declaró el ministro Nguyen Manh Hung.

Fuente: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm