La profundidad cultural y los derechos humanos deben tenerse más en cuenta en la gobernanza de la IA.
El delegado Bui Hoai Son valoró muy positivamente el artículo 4 del proyecto de ley, que reafirma los principios de "poner a las personas en el centro, respetar la dignidad humana, los derechos humanos, la privacidad y garantizar el interés público"; "garantizar la seguridad, la equidad, la transparencia, la ausencia de prejuicios, discriminación y la no discriminación contra las personas o la sociedad"; "cumplir con la ley, las normas éticas y los valores culturales de Vietnam, contribuyendo al fortalecimiento del orden, la moralidad y el desarrollo social saludable"; y, al mismo tiempo, "promover la innovación asociada con el desarrollo verde, inclusivo y sostenible, preservando la identidad cultural nacional".
Escena de la sesión de debate en el Grupo 1 - Delegación de la Asamblea Nacional de la Ciudad de Hanoi
En una ley tecnológica, situar la cultura, la ética, la identidad y a las personas en el centro es una decisión acertada. Esto concuerda con el espíritu de la Constitución y con las directrices del Partido que consideran la cultura como fundamento espiritual, meta e impulsor del desarrollo, y al mismo tiempo transmite claramente el mensaje: la IA debe estar al servicio de las personas, no reemplazarlas. Desde una perspectiva cultural, el delegado Bui Hoai Son afirmó que esta es la base para construir una «cultura de la IA», es decir, el sistema de valores, normas, estilos de vida y comportamientos de las personas en un entorno cada vez más tecnológico.
Medidas adicionales para afrontar los cambios sociales provocados por la inteligencia artificial
Sin embargo, para facilitar la implementación de estos principios, el delegado Bui Hoai Son coincidió con la opinión del Comité de Ciencia, Tecnología y Medio Ambiente de que deberían reestructurarse en grupos: un grupo sobre personas y derechos, un grupo sobre seguridad y riesgos, un grupo sobre ética y derecho, y un grupo sobre desarrollo e integración, con el fin de evitar duplicaciones, aumentar la lógica y facilitar su aplicación por parte de las entidades implementadoras. Asimismo, es necesario considerar la incorporación de principios claros sobre rendición de cuentas y trazabilidad para los sistemas de IA, garantizando que todos los sistemas puedan ser auditados y monitoreados durante todo su ciclo de vida, especialmente en ámbitos sensibles como la prensa, los medios de comunicación, la educación y la cultura.
Sin embargo, el delegado Bui Hoai Son sugirió aclarar el contenido relativo a los grupos vulnerables: mujeres, niños, personas con discapacidad, minorías étnicas, etc. La IA puede reproducir involuntariamente prejuicios de género, regionales y étnicos si los datos de entrenamiento los contienen. Por lo tanto, en el artículo 4 y en las disposiciones sobre protección del usuario, es necesario añadir requisitos para evaluar el impacto sociocultural y el impacto en la igualdad de género sobre los grupos vulnerables durante el diseño y la operación de los sistemas de IA.
Los delegados manifestaron su conformidad con la sugerencia del organismo de revisión de que el proyecto de ley incluyera disposiciones específicas sobre los derechos de los usuarios y de las personas afectadas por los sistemas de IA, como el derecho a la información y el derecho a solicitar la revisión humana de las decisiones automatizadas tomadas por la IA. Esto no es solo una cuestión jurídica, sino también cultural: garantizar que las personas mantengan siempre el control y no sean inconscientemente «controladas» por algoritmos en su vida cotidiana.
Delegado Bui Hoai Son, Delegación de la Asamblea Nacional de la Ciudad de Hanoi
Las políticas estatales deben hacer mayor hincapié en la dimensión cultural y la adaptabilidad social a la IA.
El artículo 5 del borrador establece que el Estado implementará la política de "desarrollar la inteligencia artificial para que se convierta en un motor fundamental del crecimiento, la innovación y el desarrollo sostenible del país", vinculándola a su vez con un desarrollo verde e inclusivo, la protección del medio ambiente y la preservación de la identidad cultural nacional. El informe de revisión también propuso la incorporación de políticas clave como: promover las pruebas controladas de tecnologías de IA avanzadas pero potencialmente riesgosas; garantizar el acceso a macrodatos de alta calidad para el entrenamiento de modelos; establecer un mecanismo para atraer y recompensar a expertos; y, en particular, la política de "capacitación integral y divulgación de conocimientos y habilidades digitales básicas, así como de ética en IA para funcionarios, empleados públicos y la ciudadanía, especialmente los niños", para un uso seguro de la IA.
Coincidiendo con estas propuestas, desde una perspectiva cultural, el delegado Bui Hoai Son sugirió que el proyecto de ley, en el artículo 5 o en el capítulo sobre políticas, debería señalar más claramente orientaciones tales como:
Fomentar y priorizar la aplicación de la IA en la preservación y promoción del patrimonio cultural, la creación artística y el desarrollo de las industrias culturales. Vietnam cuenta con ventajas en recursos culturales en estas áreas, pero con recursos limitados; la IA puede ser una herramienta eficaz para digitalizar el patrimonio, crear nuevos productos experienciales y mejorar la productividad creativa.
Existen políticas para apoyar a las empresas creativas y a las startups culturales y artísticas que aplican IA, por ejemplo en la producción cinematográfica, la música , el diseño, la publicidad, el turismo cultural, etc., exigiendo al mismo tiempo el estricto cumplimiento de las normas éticas y de derechos de autor.
En lo que respecta al análisis de macrodatos para el entrenamiento de IA, es necesario considerar los datos culturales, históricos, lingüísticos, literarios y artísticos vietnamitas como un recurso estratégico. La política de datos debe crear las condiciones para que los modelos de IA vietnamitas accedan al patrimonio lingüístico y cultural de Vietnam de forma legal y controlada, protegiendo así los derechos de autor y ayudando a la IA a comprender mejor la cultura vietnamita.
Educación, capacitación y desarrollo de recursos humanos para convertir la IA en una oportunidad para elevar la cultura digital vietnamita
El Proyecto de Ley dedica un artículo muy importante a la educación y al desarrollo de recursos humanos, estipulando que la educación general "integra contenidos básicos sobre inteligencia artificial, pensamiento computacional, habilidades digitales y ética tecnológica en los programas obligatorios"; las instituciones de formación profesional y las universidades desarrollan programas de formación en inteligencia artificial y ciencia de datos; el Estado implementa el "Programa Nacional para el desarrollo de recursos humanos en inteligencia artificial", que incluye políticas de formación, becas, captación y contratación de expertos, y el desarrollo de un equipo de docentes, científicos y personal directivo en este campo.
El delegado Bui Hoai Son valoró muy positivamente este enfoque, ya que vincula la Ley de Inteligencia Artificial con la Resolución 71 del Comité Central sobre avances en el desarrollo de la educación y la formación, así como con la Resolución sobre mecanismos y políticas específicas para la implementación de la Resolución 71-NQ/TW, que también se encuentra bajo consideración de la Asamblea Nacional en esta sesión. Sin embargo, desde la perspectiva de la educación cultural, el delegado señaló que la enseñanza de la IA en las escuelas no se limita a impartir habilidades en el uso de herramientas, sino que también abarca la enseñanza de la cultura digital, la ética tecnológica y la capacidad de evaluar la información. Los estudiantes deben comprender los riesgos, como la desinformación, la manipulación de la opinión pública, la dependencia de las máquinas y la pérdida de la capacidad de pensamiento independiente y creativo.
Por lo tanto, se recomienda que el proyecto de ley haga mayor hincapié en el contenido educativo sobre: privacidad, protección de datos personales en el entorno de la IA; respeto de los derechos de autor y derechos conexos, ética creativa al utilizar la IA en el arte; junto con la formación en capacidad estética, pensamiento crítico y la capacidad de distinguir entre contenido generado por humanos y contenido generado por IA, para no equipararlo todo y no perder el «alma» de la cultura.
Estos contenidos deben diseñarse en consonancia con las políticas sobre formación de recursos humanos altamente cualificados, autonomía universitaria y cooperación internacional en materia de educación que menciona la Resolución sobre mecanismos y políticas específicas para la educación, incluyendo contenidos sobre formación especializada y los ámbitos de la cultura, las artes y el deporte de alto rendimiento.
Evite lagunas y solapamientos entre la Ley de Inteligencia Artificial y las leyes especializadas en los ámbitos de la cultura, el periodismo y la propiedad intelectual.
El informe de revisión señaló que el proyecto de ley debe seguir revisándose para garantizar su coherencia con los grupos de leyes sobre infraestructura digital, datos, seguridad y protección; sobre ciencia, tecnología e innovación; sobre empresas, inversión y finanzas; sobre educación; y especialmente con los grupos de leyes relacionados con la ética, la sociedad, los derechos y las obligaciones, y las responsabilidades legales, como el Código Civil, la Ley Laboral, la Ley de la Infancia, la Ley de Personas con Discapacidad, la Ley de Propiedad Intelectual, la Ley de Tratamiento de Infracciones Administrativas, el Código Penal, etc.
Sin embargo, el delegado Bui Hoai Son enfatizó que la cuestión de los derechos de propiedad intelectual y los derechos de autor de los productos generados por IA se está convirtiendo en un tema candente a nivel mundial, generando numerosas controversias, pero el actual proyecto de ley no lo estipula claramente. El informe de revisión también sugirió la necesidad de dialogar con el organismo redactor de la ley sobre la modificación y complementación de varios artículos de la Ley de Propiedad Intelectual para reforzar la normativa sobre derechos de propiedad intelectual, derechos de autor y responsabilidad legal del contenido generado por IA. Dado que este es un tema de gran interés para artistas y productores culturales y artísticos, si no se regula oportunamente, los artistas vietnamitas podrían verse perjudicados y el entorno creativo cultural se desestabilizaría. Por ello, el delegado propuso que la Ley de Inteligencia Artificial incluya al menos una disposición fundamental que establezca que todas las aplicaciones de IA deben respetar los derechos de propiedad intelectual, no deben utilizar ilegalmente datos de entrenamiento de obras literarias, artísticas, musicales, cinematográficas, etc., y que la Ley de Propiedad Intelectual se encargue de los detalles.
Además, es necesario aclarar las responsabilidades de las plataformas que prestan servicios de IA, especialmente las plataformas transfronterizas, en cuanto al respeto de las leyes vietnamitas sobre periodismo, cine, ciberseguridad, seguridad de la información, infancia, etc. Sin una normativa suficientemente estricta, será muy difícil controlar la difusión de contenido tóxico creado por la IA, desde noticias falsas hasta contenido que incite a la violencia, el odio, la depravación y que viole la cultura y la ética social.
Delegados asistentes a la reunión
Garantizar los recursos y los mecanismos de vigilancia social para hacer cumplir la ley
Coincidiendo con la política de establecer un Comité Nacional de Inteligencia Artificial, construir un Portal Nacional sobre IA, una base de datos nacional sobre sistemas de IA, junto con mecanismos de incentivos, fondos para el desarrollo de la IA, etc., tal como se establece en el proyecto de ley y el informe de revisión, el delegado Bui Hoai Son propuso considerar cuidadosamente los recursos financieros, los recursos humanos, la asignación y la descentralización en el proceso de implementación de la ley.
Según el delegado, en el Comité Nacional de IA debería haber una participación regular y sustancial de los organismos encargados de la cultura, la educación, la información, la prensa y los derechos humanos para garantizar que los criterios socioculturales y los derechos humanos se integren desde el principio en todas las decisiones políticas sobre IA.
Además, el mecanismo para supervisar la aplicación de la Ley no se limita a la supervisión administrativa, sino que también requiere un canal de supervisión social: las voces de las asociaciones profesionales, las organizaciones sociales, los artistas, la academia y los grupos vulnerables. Al emitir normas y estándares técnicos para la IA, debería existir un proceso de consulta pública para evitar la tecnocratización de este campo, de modo que quienes se vean directamente afectados tengan la oportunidad de expresarse.
La ley también debería enviar un mensaje claro sobre la necesidad de garantizar la igualdad de acceso de los usuarios y las organizaciones en Vietnam a las principales plataformas de IA, evitando una situación en la que algunas empresas monopolicen, restrinjan el acceso o manipulen el mercado de forma desventajosa para los usuarios y las empresas vietnamitas.
El delegado Bui Hoai Son afirmó que la inteligencia artificial representa una oportunidad histórica para que Vietnam reduzca la brecha de desarrollo, pero también una gran prueba para su fortaleza cultural, su inteligencia y su capacidad de gobernanza. Apoyó la promulgación de la Ley de Inteligencia Artificial como una ley marco, flexible y centrada en las personas y la cultura. Asimismo, sugirió que el organismo redactor continúe investigando y asimilando con mayor profundidad las opiniones de los revisores, especialmente en lo relativo a valores culturales, ética, derechos humanos, educación, propiedad intelectual y supervisión social. Si se completa adecuadamente, la Ley de Inteligencia Artificial no solo será una ley tecnológica, sino también una ley fundamental de la nueva era, en la que la IA acompañará al pueblo vietnamita, junto con la cultura vietnamita, en su camino hacia un desarrollo sólido, sostenible y humano.
Fuente: https://bvhttdl.gov.vn/luat-tri-tue-nhan-tao-can-dinh-hinh-van-hoa-ai-ton-trong-cac-gia-tri-van-hoa-dao-duc-ban-sac-dan-toc-20251122155829015.htm
Kommentar (0)