Propuesta para agregar un mecanismo de apoyo para organizaciones e individuos que participan en pruebas de IA

El 27 de noviembre, la Asamblea Nacional debatió el proyecto de Ley de Inteligencia Artificial (IA) en el salón de plenos. Para facilitar y fomentar la innovación, el delegado Hoang Minh Hieu (delegación de Nghe An) afirmó que también es necesario investigar y complementar los mecanismos de apoyo para las organizaciones y personas que participan en las pruebas para prevenir riesgos.

Habla el Sr. Hoang Minh Hieu (Foto: Quang Vinh)

Abuelo   Piedad filial   Estoy de acuerdo con el enfoque del Gobierno para la elaboración de esta ley. Este proyecto de ley también define claramente el enfoque de Vietnam hacia la inteligencia artificial. Es favorable al desarrollo de la IA y cuenta con regulaciones para garantizar que se minimicen los riesgos que esta puede conllevar.

En su discurso, el Sr. Hieu se centró en analizar más a fondo las disposiciones del artículo 20 del proyecto de Ley sobre el Mecanismo de Pruebas Controladas para garantizar la viabilidad y crear las condiciones más favorables para el desarrollo de sistemas de IA, especialmente los sistemas de IA nacionales.  

Según el Sr. Hieu, el mecanismo de pruebas controladas para el desarrollo de la inteligencia artificial es extremadamente importante. Debido a que la inteligencia artificial es un tema muy nuevo, relacionado con muchos campos diferentes, si solo se basa en el marco legal actual, no puede crear las condiciones para el desarrollo de la IA. El objetivo principal del mecanismo de pruebas controladas para la IA es eliminar las barreras legales que obstaculizan los modelos de IA, permitiendo pruebas dentro de un alcance limitado para obtener datos que demuestren la efectividad, promoviendo así la reforma regulatoria a largo plazo. Este método también es muy consistente con nuestro pensamiento legislativo actual, es decir, la institución debe ir primero para allanar el camino para el desarrollo; lo que se conoce se gestiona, lo que es desconocido y poco claro no se gestiona. Por lo tanto, las regulaciones sobre el mecanismo de pruebas controladas deben ser el foco del marco legal sobre inteligencia artificial. Por lo tanto, el organismo redactor necesita estudiar y regular más específicamente sobre este tema en el borrador.

En cuanto a comentarios específicos, el Sr. Hieu sugirió revisar las regulaciones sobre las organizaciones e individuos que participan en ensayos controlados que están exentos o tienen algunas obligaciones de cumplimiento reducidas según lo prescrito en esta Ley en la Cláusula 2 del Artículo 20. Dichas regulaciones llevan a que el alcance de la exención se limite a las disposiciones de esta Ley, mientras que los sistemas de inteligencia artificial a menudo están estrechamente relacionados con otras disposiciones legales pertinentes.  

Las pruebas de IA en vehículos autónomos estarán estrechamente relacionadas con las prohibiciones de la Ley de Orden de Seguridad Vial y la Ley de Protección de Datos Personales. Por ejemplo, un mecanismo de pruebas de IA en aviones de pasajeros autónomos en Japón está exento de algunas regulaciones de aviación. O bien, las pruebas de vehículos autónomos en China y Japón están exentas de las disposiciones de la Ley de Protección de Datos Personales, que establecen el uso de datos de imagen que no difuminan los rostros de los participantes en el tráfico para entrenar la visión de la IA. El Sr. Hieu ofreció un ejemplo y sugirió que el organismo encargado de la redacción investigue y revise las disposiciones de la Cláusula 2, Artículo 20, para definir claramente las organizaciones e individuos que participan en pruebas controladas que están exentos .   o reducir determinadas obligaciones de cumplimiento prescritas en esta Ley y otras leyes pertinentes.  

En cuanto a la regulación sobre la asignación de la agencia de gestión estatal sobre inteligencia artificial para organizar la recepción, evaluación y procesamiento de expedientes para participar en actividades de pruebas controladas de acuerdo con el proceso de evaluación y respuesta rápida , el Sr. Hieu   Estoy de acuerdo con este reglamento, especialmente con la disposición sobre evaluación y respuesta rápidas. Sin embargo,   Los sistemas de IA no son simplemente una cuestión de tecnología y algoritmos, sino también multidisciplinar e interdisciplinar. Por lo tanto, las disposiciones de la Cláusula 5 probablemente solo sean aplicables a sistemas de IA de propósito general, como la IA generativa, como ChatGPT y Gemini. En cuanto a los sistemas de IA especializados, el carácter interdisciplinar es muy alto.

Abuelo   Piedad filial   Por ejemplo, el sistema DrAid es un producto de IA que apoya el diagnóstico por imágenes médicas desarrollado por la empresa VinBrain .   Si se realiza el registro para las pruebas, el Ministerio de Salud no puede eludir la función de supervisión y gestión. Por lo tanto, en algunos países, la evaluación y la concesión de licencias para las pruebas controladas de sistemas de IA se asignan a un consejo interdisciplinario. Por lo tanto, se recomienda revisar las disposiciones de la Cláusula 5 para que digan: «El organismo estatal de gestión de la inteligencia artificial presidirá y se coordinará con los organismos estatales de gestión pertinentes para organizar la recepción, evaluación y tramitación de los expedientes de participación en actividades de pruebas controladas».  

Abuelo   Hieu también comentó:   Las disposiciones del artículo 20 aún carecen de disposiciones sobre indemnización y responsabilidad civil por seguros. Por consiguiente, las disposiciones actuales del proyecto de ley...   No se menciona quién es responsable si la prueba causa daños a un tercero. Por regla general, la organización o el individuo que realiza la prueba deberá pagar una indemnización civil si se causan daños. Por lo tanto, se recomienda considerar añadir esta disposición al borrador.  

“ Además, para facilitar y fomentar el espíritu de innovación, creemos que también es necesario investigar y complementar mecanismos de apoyo a las organizaciones e individuos que participan en las pruebas para prevenir riesgos .   Por ejemplo, un mecanismo para respaldar el seguro de responsabilidad civil antes de realizar pruebas, o el estado podría financiar parte del presupuesto (a través de diversos fondos) para fomentar la participación en las pruebas. Sin este mecanismo, las empresas que desarrollan sistemas de IA de alto riesgo (como los vehículos autónomos) y que se encuentran en la fase inicial se mostrarán reacias a realizar pruebas, ya que un solo accidente basta para llevarlas a la quiebra », afirmó el Sr. Hieu.

 

 

 

Viet Thang - Trung Hieu

Fuente: https://daidoanket.vn/de-xuat-bo-sung-co-che-ho-tro-cho-cac-to-chuc-ca-nhan-tham-gia-thu-nghiem-ai.html