Los marcos éticos en las operaciones de IA deben estar claramente definidos.

En la mañana del 21 de noviembre, los diputados de la Asamblea Nacional debatieron en grupos el proyecto de Ley de Inteligencia Artificial. La cuestión ética en las actividades relacionadas con la IA preocupó a muchos de ellos.

La delegación de la Asamblea Nacional de Ciudad Ho Chi Minh se reunió en grupos la mañana del 21 de noviembre. Foto: QUANG PHUC

Al hablar sobre el proyecto de ley, el diputado Nguyen Tri Thuc (Ciudad Ho Chi Minh), viceministro de Salud, afirmó que uno de los mayores problemas para el sector médico al implementar tecnologías e inteligencia artificial (IA) es la contratación y licitación, ya que resulta muy difícil determinar los precios y es muy fácil que surjan situaciones negativas. La ética en el uso de la IA es fundamental, por lo que espera que el Gobierno encomiende al Ministerio de Salud la elaboración de un código de ética para su uso.

Delegado Nguyen Tri Thuc (HCMC). Foto de : QUANG PHUC

El diputado Tran Hoang Ngan (Ciudad Ho Chi Minh) comentó que la IA se desarrolla rápidamente, aportando un gran valor a la humanidad, pero también presenta aspectos negativos, violaciones de derechos humanos y actos inconstitucionales, por lo que la promulgación de leyes es fundamental. El diputado se mostró de acuerdo con la clasificación y gestión de los sistemas de IA según los riesgos, y acordó clasificarlos en cuatro niveles (bajo, medio, alto e inaceptable). Sin embargo, el proyecto de ley debe definir claramente criterios cuantitativos y cualitativos para identificar y clasificar los riesgos, así como establecer regulaciones sobre medidas de gestión, herramientas y métodos para la evaluación de riesgos.

Delegado Tran Hoang Ngan (HCMC). Foto de : QUANG PHUC

El delegado Nguyen Minh Duc (Ciudad Ho Chi Minh) preguntó: ¿Quién será responsable si la IA crea productos que infrinjan la ley, por ejemplo, difamando o insultando a líderes? Esta es una cuestión que preocupa a muchas organizaciones internacionales. Por lo tanto, según el delegado, es necesario considerar un mecanismo de compensación para las personas afectadas si la IA comete errores o infracciones de derechos de autor.

«Luego está el tema de los derechos de propiedad intelectual de las obras creadas por IA. ¿Quién será el propietario?», preguntó el diputado Nguyen Minh Duc. El diputado se mostró de acuerdo con las disposiciones sobre el etiquetado de productos que utilizan IA en el proyecto de ley, cuyo objetivo es crear responsabilidades éticas y legales vinculantes.

Delegado Nguyen Minh Duc (HCMC). Foto de : QUANG PHUC

Según el diputado Bui Hoai Son (Hanói), la cuestión de los derechos de propiedad intelectual y los derechos de autor de los productos generados por IA se está convirtiendo en un tema candente a nivel mundial , generando numerosas controversias, pero el proyecto de ley aún no la define con claridad. Si no se regula a tiempo, los artistas vietnamitas podrían verse perjudicados y el entorno creativo cultural se desestabilizará.

“La Ley de Inteligencia Artificial debería tener al menos una disposición fundamental que afirme que todas las aplicaciones de IA deben respetar los derechos de propiedad intelectual, no deben utilizar ilegalmente datos de entrenamiento de obras literarias, artísticas, musicales, cinematográficas, etc., y asignar a la Ley de Propiedad Intelectual la tarea de gestionar los detalles”, propuso el diputado Bui Hoai Son.

El diputado Bui Hoai Son también afirmó que es necesario clarificar las responsabilidades de las plataformas que prestan servicios de IA, especialmente las transfronterizas, en lo que respecta al respeto de las leyes vietnamitas sobre prensa, cine, ciberseguridad, seguridad de la información, infancia, etc. Sin una normativa suficientemente estricta, tendremos dificultades para controlar la difusión de contenido tóxico generado por IA, desde noticias falsas hasta contenido que incite a la violencia, el odio, la depravación y que atente contra la cultura y la ética social.

Según los diputados, la IA también puede realizar acciones humanas y cometer errores. Sin embargo, existen diversas opiniones sobre la responsabilidad legal de la IA, lo que dificulta determinarla en el sentido tradicional. Cuando se produce un incidente, surgen disputas sobre responsabilidad administrativa, civil y penal. Por lo tanto, es necesario complementar los principios para distinguir las responsabilidades entre los sujetos y las partes relacionadas, incluidos los proveedores extranjeros que prestan servicios de IA transfronterizos, y para diferenciar entre los casos intencionales y no intencionales, así como los errores debidos a limitaciones técnicas y situaciones imprevistas.

El borrador también estipula principios éticos básicos para las actividades de IA. La diputada Nguyen Thi Yen (Ciudad Ho Chi Minh) coincidió en que el marco ético para las actividades de IA debe estar claramente definido para prevenir infracciones.

En cuanto a los actos prohibidos: utilizar la IA para causar desorden, incitar a la política, violar la seguridad nacional, manipular votos, elecciones... Se prohíbe el uso de la IA para crear contenido falso, crear imágenes y vídeos fraudulentos, insultar el honor y la dignidad, causar división y otros fines ilícitos.

PHAN THAO

Fuente: https://www.sggp.org.vn/khung-dao-duc-trong-hoat-dong-ai-phai-quy-dinh-ro-rang-post824652.html