¿Quién es responsable del daño causado por la IA?

La IA se ha utilizado y se sigue utilizando para cometer actos ilegales y delictivos. Por lo tanto, es necesario desarrollar y perfeccionar políticas y leyes sobre IA.

Descripción general del taller - Foto: SIU

Esa fue la cuestión planteada por muchos delegados en el taller sobre Derecho de Inteligencia Artificial organizado por la Universidad Internacional de Saigón en la mañana del 4 de enero.

Se necesita un marco legal para la IA

En el taller, el Prof. Dr. Phan Trung Ly, ex Presidente del Comité de Derecho de la Asamblea Nacional, dijo que en Vietnam, la inteligencia artificial (IA) ha ido entrando gradualmente en la vida humana, demostrando cada vez más su importante papel en la promoción del desarrollo socioeconómico y la garantía de la seguridad nacional.

Junto con los aspectos positivos, la IA también ha tenido impactos negativos, lo que ha suscitado profundas preocupaciones sobre posibles riesgos desde el punto de vista ético, social y legal.

Además, la IA se ha utilizado y se sigue utilizando para cometer actos ilegales y delictivos. Por lo tanto, es urgente desarrollar y completar políticas y leyes sobre inteligencia artificial en Vietnam.

Prof. Dr. Phan Trung Ly - Foto: SIU

Según el Sr. Ly, es necesario crear un marco legal para promover el desarrollo y la aplicación de la IA. En concreto, el Estado debe incentivar a empresas, organizaciones e individuos a desarrollar, proporcionar, implementar y utilizar sistemas de IA fiables y centrados en el ser humano, e incentivar a las pequeñas y medianas empresas a proporcionar sistemas de IA para participar en el mecanismo de prueba de productos y servicios de tecnología digital .

El derecho civil y de propiedad intelectual debe abordar la cuestión de la propiedad de los productos de IA. ¿Serán los humanos o la IA los propietarios de los productos de inteligencia artificial?

En el desarrollo de sistemas de IA que involucran humanos, la ley debe prestar especial atención al respeto de los derechos humanos y la dignidad de los individuos involucrados.

En la medida de lo posible, dependiendo de las características de la tecnología aplicada, los desarrolladores deben tomar medidas para garantizar que no provoquen discriminación o injusticia debido al sesgo en los datos al entrenar los sistemas de IA.

Los desarrolladores deben tomar precauciones para garantizar que los sistemas de IA no violen los valores humanos ni la ética social, según los principios básicos de Vietnam. En particular, valores fundamentales como el patriotismo, la solidaridad, la autonomía, la lealtad, la honestidad, la responsabilidad, la disciplina, la creatividad, la protección de la privacidad espacial, la privacidad de la información (datos personales) y la confidencialidad de las comunicaciones.

¿Quién es responsable del daño causado por la IA?

Profesor asociado, Dr. Le Bo Linh en la conferencia - Foto: SIU

En relación con el desarrollo de una nueva ley sobre IA, el profesor asociado Dr. Le Bo Linh, del Instituto de Estudios de Derecho y Sociedad y exsecretario general adjunto de la Asamblea Nacional , propuso que el ministerio emitiera principios éticos para el desarrollo, la implementación y la aplicación de la IA. Los productos y contenidos de tecnología digital creados por IA deben identificarse claramente como creados o manipulados artificialmente.

Los sistemas de IA se clasificarán según sus niveles de riesgo, en función de su impacto en la salud, los derechos e intereses legítimos de organizaciones e individuos, la seguridad humana o de los bienes, y la seguridad de los sistemas nacionales de información importantes y las infraestructuras críticas. Estas clasificaciones permiten gestionar los sistemas de IA según sus diferentes niveles de riesgo.

Además, una de las primeras cuestiones legales relacionadas con la inteligencia artificial es la propiedad intelectual y los derechos de autor.

En el desarrollo de la IA, la creación de algoritmos, modelos y datos de entrenamiento es fundamental. Sin embargo, las regulaciones actuales de propiedad intelectual no se han adaptado al desarrollo tecnológico.

En particular, determinar quién posee los derechos de autor de los productos generados por IA es complicado. Si una IA crea una obra de arte o un programa de software, la pregunta es si la IA o quien la programó posee el producto. La normativa actual podría no ser del todo apropiada, lo que podría generar disputas en el futuro.

También se plantea la cuestión de la responsabilidad cuando la IA causa daños. La IA puede tomar decisiones sin intervención humana, lo que crea una situación legal difícil de determinar. Cuando un sistema de IA comete un error o causa daños a un ser humano, la pregunta es: ¿quién es responsable? ¿El fabricante, el desarrollador o el usuario individual?

Fuente: https://tuoitre.vn/ai-gay-thiet-hai-ai-chiu-trach-nhiem-20250104134035537.htm