Consejo de experto: No se apresure a legalizar la IA

(NLDO) - El taller atrajo la atención de investigadores, profesores, estudiantes y expertos en el campo de la tecnología y el derecho.

El 7 de octubre, la Universidad de Economía y Derecho (VNU-HCM) se coordinó con el periódico jurídico de la ciudad de Ho Chi Minh para organizar una conferencia científica con el tema "IA y derecho: experiencia internacional y algunas sugerencias para Vietnam".

¿Necesita flexibilidad en lugar de un "marco rígido"?

En su intervención en el taller, el Profesor Asociado Dr. Ngo Huu Phuoc, Vicedecano a cargo de la Facultad de Derecho Económico de la Universidad de Economía y Derecho, presentó un documento sobre el impacto de la inteligencia artificial (IA) en el sistema legal, la experiencia legislativa de países de todo el mundo y sugerencias de políticas para Vietnam.

El profesor asociado Dr. Ngo Huu Phuoc, vicedecano de la Facultad de Derecho Económico de la Universidad de Economía y Derecho, presentó su ponencia. Foto: Comité Organizador.

Según el Sr. Phuoc, China es uno de los países con un enfoque destacado en la gobernanza de la IA. Este país aplica un modelo multicapa que combina leyes básicas como la Ley de Ciberseguridad (2017), la Ley de Seguridad de Datos (2021) y la Ley de Protección de la Información Personal (2021) con regulaciones especializadas, regulaciones locales y estándares técnicos de derecho indicativo. Este enfoque permite a China regular estrictamente y crear las condiciones para las pruebas tecnológicas dentro del ámbito de control.

Las principales ventajas son la velocidad y la flexibilidad, lo que permite ajustes rápidos de políticas según las prácticas tecnológicas, a la vez que promueve el desarrollo de un sólido ecosistema de IA. Sin embargo, este modelo también presenta limitaciones en términos de privacidad, solapamiento legal y el riesgo de frenar la innovación debido a la intervención del Estado profundo.

Basándose en la experiencia internacional, el profesor asociado Dr. Ngo Huu Phuoc considera que Vietnam no debería promulgar una ley independiente sobre IA en la etapa actual. Esto se debe a que el ecosistema nacional de IA aún no está lo suficientemente maduro como para ser legalizado. Mientras tanto, un marco legal rígido obstaculizará la innovación. Por otro lado, los recursos para la gestión estatal aún son limitados.

En lugar de ello, propuso emitir un marco ético de IA (código de conducta) para guiar el comportamiento y el desarrollo responsables; construir un entorno de pruebas de IA para permitir pruebas controladas; y modificar y complementar las leyes existentes para integrar las regulaciones relacionadas con la IA en el sistema legal existente.

Según los expertos, estas orientaciones ayudarán a Vietnam a aprovechar las oportunidades que ofrece la IA de forma flexible, segura y de acuerdo con las condiciones reales del país.

Cuando la IA llama a la puerta del hospital

Según el profesor asociado Dr. Le Minh Khoi, jefe del Departamento de Ciencias y Formación del Hospital Universitario de Medicina y Farmacia de Ciudad Ho Chi Minh, en comparación con campos como la economía o las comunicaciones, la IA en medicina se ha desarrollado con muchos modelos avanzados. Sin embargo, su aplicación práctica aún es cautelosa. «Los médicos aún están explorando si la IA es un aliado o un enemigo», comentó el profesor asociado Dr. Le Minh Khoi.

Según el profesor asociado, Dr. Le Minh Khoi, introducir la IA en el campo médico plantea una serie de riesgos potenciales, como la seguridad y la privacidad de los datos, el sesgo en los algoritmos y la ética, cuestiones de seguridad, responsabilidad y transparencia...

Uno de los grandes riesgos es la "ilusión" de la IA. Si se producen errores en un sistema ampliamente implementado, las consecuencias podrían afectar a miles de pacientes. La cuestión de la responsabilidad también es espinosa: si la IA causa errores en el diagnóstico o el tratamiento, ¿quién es responsable: el médico que utiliza el sistema, el desarrollador del sistema, el distribuidor, el hospital o el organismo regulador?

Escena de la conferencia - Foto: Comité Organizador

Además, si los médicos dependen demasiado de la IA, pueden perder su capacidad de pensar y emitir juicios clínicos, y gradualmente perder la capacidad de detectar y corregir errores, mientras que la supervisión humana sigue siendo un factor indispensable. Además, la mentalidad conservadora, el miedo a perder el trabajo o la falta de comprensión de la tecnología también hacen que muchos profesionales médicos duden en acercarse a la IA.

En cuanto a los desafíos legales, el profesor asociado Dr. Le Minh Khoi comentó que la velocidad del desarrollo de la IA supera con creces la capacidad regulatoria del sistema. La tecnología avanza demasiado rápido, mientras que las regulaciones son lentas, lo que nos lleva a una situación de asfixia entre dos extremos: si las endurecemos, frenaremos la innovación, pero si las relajamos, será arriesgado para los pacientes. Además, la infraestructura de datos médicos en Vietnam sigue estando fragmentada, es inconsistente y de calidad desigual, lo que dificulta el entrenamiento y la prueba de modelos de IA.

El Sr. Khoi concluyó que la IA es una gran oportunidad para la industria médica, pero también una prueba de la adaptabilidad humana, la apertura mental y la responsabilidad en la era digital.

Fuente: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm