Evitar que la tecnología cruce los límites éticos.

El uso creciente de la IA con fines poco éticos ha creado una necesidad urgente de control de la tecnología y de una mayor responsabilidad de los usuarios.

Con su rápido avance, la inteligencia artificial (IA) está revolucionando numerosos campos, desde la salud, la educación y los negocios hasta la vida cotidiana. Sin embargo, las desventajas de esta tecnología plantean importantes desafíos para la gestión y el control de la información en el ciberespacio.

Inundado de noticias falsas generadas por IA.

Las noticias falsas generadas por IA se difunden en las plataformas de redes sociales principalmente para ganar vistas, me gusta y participación para las ventas en línea o para obtener ganancias de la plataforma.

Quienes crean noticias falsas suelen aprovecharse de los sucesos de actualidad que atraen la atención del público. Por ejemplo, tras el grave accidente de tráfico del 17 de septiembre en el mercado de Tan Long, comuna de Lao Bao, provincia de Quang Tri , que dejó 12 muertos, aparecieron en redes sociales imágenes desgarradoras que hicieron llorar a muchos espectadores. Al identificar estas imágenes como creadas por IA, la policía de la comuna de Lao Bao emitió una advertencia sobre la difusión de estas imágenes falsas engañosas. Esta conducta no solo difunde información falsa, sino que también obstaculiza las investigaciones.

De igual manera, aprovechando la atención pública generada por el naufragio del barco turístico Green Bay 58 en la bahía de Ha Long, provincia de Quang Ninh, el 19 de julio, que causó la muerte de decenas de personas, muchas cuentas en redes sociales publicaron imágenes e historias emotivas sobre las víctimas. Sin embargo, una parte significativa de este contenido era falso, creado mediante inteligencia artificial para manipular las emociones y atraer la interacción de los usuarios. Cabe destacar que el uso generalizado de imágenes falsas con una compasión exagerada podría traumatizar aún más a las familias de las víctimas.

Con la tecnología de IA en constante evolución, solo se necesitan unos minutos y comandos sencillos para crear un vídeo con contenido atractivo que se adapte perfectamente a las intenciones del usuario. Entre ellas, las plataformas de IA de última generación como KlingAI, Veo 3 y Sora gozan de gran popularidad entre los usuarios de todo el mundo, incluido Vietnam.

Además, la tecnología deepfake —una combinación de aprendizaje profundo y falsificación— también es una gran preocupación a nivel mundial, ya que puede utilizarse para crear imágenes, sonidos o vídeos tan reales que son muy difíciles de detectar como falsos. Como resultado, se han producido numerosas estafas relacionadas con esta tecnología tanto en Vietnam como en todo el mundo.

El Teniente General Nguyen Minh Chinh, Vicepresidente Permanente de la Asociación Nacional de Ciberseguridad, observó una creciente tendencia al abuso de la IA con fines ilegales. En concreto, los ciberdelincuentes están explotando la IA como servicio (herramientas y aplicaciones proporcionadas por IA) para crear malware, suplantar voces, rostros y textos, con fines de fraude, ciberataques, intrusión en sistemas de datos e incluso para desestabilizar la seguridad y dañar la reputación de organizaciones, empresas y líderes.

Según el Sr. Tran Ngoc Anh, Director Técnico de Hoa Binh Cyber ​​Space Company Limited (CyPeace), uno de los riesgos para los usuarios de IA es la posibilidad de recibir información errónea generada por la propia herramienta. Además, existen otros problemas, como la filtración de información confidencial y datos personales.

Se están difundiendo imágenes falsas en línea para "hacer llorar a los espectadores", ganando así "Me gusta" y aumentando la interacción (captura de pantalla).

Mejorar la responsabilidad del usuario

Antes de que se implementen medidas tecnológicas y legales para controlar estrictamente el desarrollo y el uso de la IA, los usuarios deben utilizar esta tecnología de manera proactiva y responsable.

El experto en ciberseguridad Vu Ngoc Son, director del Comité de Tecnología de la Asociación Nacional de Ciberseguridad, señaló que los seres humanos son quienes explotan y utilizan la IA, por lo que tanto sus aspectos positivos como negativos están estrechamente vinculados a ellos. Si los usuarios son hábiles y la aplican con buenos fines, la tecnología aprovechará sus ventajas. Por el contrario, si los usuarios de IA carecen de conocimientos o la explotan con fines ilegales, esto puede tener graves consecuencias. "Para usar y explotar la IA eficazmente, es necesario centrarse en la creación de equipos y procesos. La IA solo alcanza su valor cuando se pone en manos de quienes saben cómo dominarla", afirmó el experto en ciberseguridad.

Dados los peligros de la tecnología deepfake, una herramienta clave que facilita el ciberfraude actual, el Ministerio de Finanzas enfatizó durante la redacción de la Ley de Inversión y Negocios que el negocio de la tecnología deepfake debe regularse como un sector comercial condicional para prevenir el uso indebido de la tecnología que causa la disrupción de la información y el fraude. Según el Ministerio de Finanzas, el negocio de la tecnología deepfake es actualmente uno de los nuevos campos con riesgos potenciales complejos para la seguridad y el orden, pero no está regulado como un sector comercial condicional.

Según el abogado Tran Anh Tuan (Colegio de Abogados de Hanói), usar IA para crear contenido sin permiso, especialmente para crear información falsa, inventada o fraudulenta, puede infringir las disposiciones del Código Civil. Los infractores pueden enfrentarse a sanciones administrativas o a una indemnización por daños y perjuicios. En casos con consecuencias graves, se puede incurrir en responsabilidad penal. "Los usuarios deben ser cautelosos al acceder y usar IA, evitando por completo cualquier acción que la aproveche para obtener visualizaciones o "me gusta"; deben asumir su responsabilidad personal y cumplir con la ley al usar IA y participar en el entorno en línea", aconsejó el abogado Tuan.

El Teniente General Nguyen Minh Chinh enfatizó que el elemento central para el desarrollo sostenible de la IA son los recursos humanos. Desde investigadores, ingenieros y expertos en ciberseguridad hasta gerentes y usuarios, todos deben estar plenamente capacitados en conocimientos, habilidades, ética y conciencia legal. Según él, este no es solo el equipo que construye y opera los sistemas de IA, sino también la fuerza clave para prevenir, detectar y combatir los delitos de alta tecnología en el ciberespacio.

Vietnam tendrá una Ley sobre Inteligencia Artificial.

En una reciente conferencia científica nacional sobre IA, el ministro de Ciencia y Tecnología, Nguyen Manh Hung, afirmó que la IA ofrece grandes oportunidades, pero también plantea numerosos problemas en materia de ética, empleo y confianza social. Por lo tanto, el desarrollo de la IA debe ser rápido, seguro y humano.

Según el ministro Nguyen Manh Hung, la IA no reemplaza a los humanos, sino que los ayuda. La IA es una herramienta poderosa, pero son los humanos quienes toman las decisiones; por lo tanto, la IA debe apoyar, y no reemplazar, el pensamiento, los valores y las responsabilidades humanas. "El Ministerio de Ciencia y Tecnología emitirá un código ético nacional para la IA, armonizado con los estándares internacionales, pero diseñado para adaptarse a la realidad vietnamita, y también desarrollará una ley y una estrategia de IA", declaró el ministro Nguyen Manh Hung.

Fuente: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm