Proyecto de Ley sobre Inteligencia ArtificialLa IA en medicina debe ser inspeccionada como los dispositivos médicos

Considerando que la atención sanitaria es un campo sensible y de alto riesgo que necesita ser estrictamente controlado, incluida la aplicación de IA, algunos delegados sugirieron que el proyecto de Ley sobre Inteligencia Artificial debería estudiar regulaciones que establezcan que la IA en la atención sanitaria debe ser inspeccionada como los dispositivos médicos.

Escena de la sesión de discusión en el salón sobre el proyecto de Ley de Inteligencia Artificial.

Gestión de productos de IA para la atención sanitaria

Como delegado que trabaja en el sector de la salud, el diputado de la Asamblea Nacional Tran Khanh Thu ( Hung Yen ) valoró altamente los impactos de la inteligencia artificial (IA) en el sector de la salud, uno de los campos con mayor potencial para la aplicación de la IA, con claros impactos en el proceso de diagnóstico, tratamiento, gestión de pacientes, así como en la investigación y el desarrollo farmacéutico.

Sin embargo, recientemente, una paciente de 55 años en Ciudad Ho Chi Minh fue llevada a urgencias en estado letárgico, sin percatarse de su entorno. Su hija comentó que había visto a su madre mareada y con dificultad para respirar, por lo que solicitó a AI un diagnóstico. Los resultados indicaron que tenía hipertensión arterial.

El diputado de la Asamblea Nacional Tran Khanh Thu (Hung Yen) habla

El delegado comentó que el hijo le midió la presión arterial a su madre y vio que había aumentado considerablemente, así que fue a la farmacia a comprarle medicamentos. Pero después de tomarlos, su estado empeoró: se cansó, vomitó mucho y perdió el conocimiento, por lo que la llevó a urgencias. En el hospital, el médico confirmó que la paciente tenía daño cerebral y un derrame cerebral. Aunque se salvó de la etapa crítica, las consecuencias fueron inevitables.

El delegado dijo con franqueza que Internet es muy popular hoy en día, especialmente la IA, una muy buena fuente de información para los pacientes que quieren aprender más sobre su enfermedad... Sin embargo, las personas no pueden usar los resultados para buscar, diagnosticar o recetar medicamentos por sí mismas. ¿Y las personas que venden medicamentos según recetas de IA están infringiendo la ley? - el delegado planteó la cuestión.

El delegado también señaló que no contamos con un marco legal específico y completo para la aplicación de la IA en la atención médica. Si bien leyes como la Ley de Examen y Tratamiento Médico o la Ley de Farmacia han regulado las actividades de examen y tratamiento médico y los productos médicos, la normativa específica sobre los productos aplicados con IA en medicina aún no está clara.

Además, los productos de examen y tratamiento médico basados ​​en IA todavía están sujetos a procedimientos de licencia generales para dispositivos médicos y carecen de estándares y regulaciones de IA específicos para esos productos.

Delegados asistentes a la sesión de debate

“Además, algunas cuestiones como la responsabilidad legal en caso de errores de IA y la seguridad de los datos médicos y la seguridad del paciente no están claramente reguladas en los documentos legales actuales”, enfatizó el delegado.

Con base en la realidad anterior, el delegado Tran Khanh Thu espera que el proyecto de Ley sobre Inteligencia Artificial tenga disposiciones, términos y marcos legales más específicos para gestionar los productos de IA para la atención médica, especialmente las responsabilidades de las partes relevantes.

Considerando que la atención médica es un campo sensible y de alto riesgo, su aplicación requiere un control estricto. El delegado de la Asamblea Nacional, Le Van Kham (Ciudad Ho Chi Minh), sugirió que es necesario estudiar la normativa. La IA en la atención médica debe inspeccionarse al igual que los dispositivos médicos. Existen categorías de inspección obligatorias cuando la IA apoya la toma de decisiones clínicas, como: diagnóstico con IA, predicción del riesgo de muerte o complicaciones con IA, robots quirúrgicos que utilizan IA, y apoyo con IA en la prescripción o el régimen de tratamiento.

Además, los delegados sugirieron que se establecieran regulaciones para monitorear la circulación de la IA en la atención médica a fin de garantizar la seguridad del paciente, como regulaciones sobre informes periódicos, alertas rápidas de incidentes, auditoría de algoritmos y monitoreo de errores en tiempo real. Cuando esta ley incluya regulaciones de principios, la autoridad competente emitirá documentos sublegales para implementarlas, así como para desarrollar herramientas de gestión y medidas adecuadas para la gobernanza de la IA médica.

Vista de la reunión. Foto: Quang Khanh

Al mismo tiempo, el organismo redactor debe considerar cuidadosamente permitir a los proveedores autoclasificar los riesgos de la IA en la medicina, tal como se estipula en el Artículo 9 del proyecto de ley, sugirió el delegado Le Van Kham.

Evaluación del impacto de los datos en las implementaciones de IA de alto riesgo

Al enfatizar que la clasificación de riesgos es el núcleo de la Ley de Inteligencia Artificial, el diputado de la Asamblea Nacional Thach Phuoc Binh (Vinh Long) señaló que el proyecto de ley aún no establece criterios cuantitativos de clasificación. La lista de sistemas de IA de alto riesgo se regula de forma relativamente amplia, incluyendo áreas donde no se han presentado riesgos significativos en la práctica. Esto podría generar cargas innecesarias de cumplimiento, especialmente para las pequeñas y medianas empresas.

El delegado de la Asamblea Nacional, Thach Phuoc Binh (Vinh Long), habla. Foto: Pham Thang

Por lo tanto, los delegados sugirieron que es necesario revisar la lista de alto riesgo para centrarse únicamente en los sistemas que puedan tener un impacto significativo en los derechos humanos, la privacidad, la salud, las finanzas y la seguridad social. Al mismo tiempo, se debe establecer un mecanismo para actualizarla con flexibilidad, basándose en consultas con expertos, asociaciones del sector y organizaciones de investigación. Asociar criterios de riesgo a las características técnicas del modelo, como la automatización, la capacidad de autoaprendizaje, la imprevisibilidad y la escala de uso.

En cuanto a la protección de datos, privacidad y usuarios, el delegado Thach Phuoc Binh afirmó que los datos son el motor de la IA, pero que las disposiciones actuales del proyecto de ley no se ajustan a la Ley de Protección de Datos Personales. Es necesario aclarar el nivel de procesamiento permitido para datos sensibles, datos de menores y datos biométricos. Asimismo, es necesario añadir la obligación de evaluar el impacto de los datos al implementar IA de alto riesgo.

Para los usuarios de IA, el proyecto de ley menciona algunos derechos básicos, pero aún carece de derechos importantes según los estándares internacionales, como el derecho a rechazar decisiones totalmente automatizadas o el derecho a solicitar explicaciones. Estos son derechos fundamentales para evitar que las personas se vean perjudicadas por decisiones basadas en IA en los ámbitos de las finanzas, los seguros, la salud o la contratación laboral.

El ministro de Ciencia y Tecnología, Nguyen Manh Hung, explica las opiniones de los diputados de la Asamblea Nacional en la reunión. Foto: Ho Long

El delegado señaló que las falsificaciones de voz, imagen y vídeo han causado numerosos incidentes que afectan gravemente la seguridad y la privacidad de la información. El artículo 9 del proyecto de ley estipula el etiquetado de los resultados de IA, pero aún es necesario aclarar algunos puntos, como qué tipos de contenido deben etiquetarse, qué nivel de etiquetado se requiere para proteger a los usuarios sin reducir la experiencia digital, y la responsabilidad de las plataformas de redes sociales en la detección y eliminación de contenido falso. Diseñar un mecanismo de etiquetado estricto pero flexible es fundamental.

El delegado también señaló que el sistema de evaluación de la conformidad es uno de los aspectos más técnicos del proyecto de Ley. Sin embargo, si se diseña el mecanismo de preinspección con demasiado rigor, se podría obstaculizar involuntariamente la innovación.

Por lo tanto, el delegado Thach Phuoc Binh propuso exigir la certificación únicamente para sistemas de alto riesgo, permitiendo la autoevaluación para sistemas de riesgo bajo y medio. Garantizar un proceso de evaluación claro y transparente, evitando la creación de un mecanismo de solicitud y concesión.

Fuente: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html