AI로 인한 피해에 대한 책임은 누구에게 있을까?

AI는 불법 및 범죄 행위에 사용되어 왔고 지금도 사용되고 있습니다. 따라서 AI 관련 정책과 법률을 개발하고 보완하는 것이 필수적입니다.

워크숍 개요 - 사진: SIU

이는 1월 4일 오전 사이공 국제 대학에서 주최한 인공지능법 워크숍에 참석한 많은 대표단이 제기한 문제였습니다.

AI에 필요한 법적 틀

워크숍에서 국회 법률위원회 전 위원장인 판 중리 교수는 베트남에서 인공지능(AI)이 점차 인간 삶에 들어오고 있으며, 사회 경제적 발전을 촉진하고 국가 안보를 보장하는 데 중요한 역할을 하고 있다는 점을 강조했습니다.

AI는 긍정적인 측면과 함께 부정적인 영향도 끼쳤으며, 윤리적, 사회적, 법적 측면에서 잠재적 위험에 대한 깊은 우려를 불러일으켰습니다.

또한, AI는 불법 및 범죄 행위에 사용되어 왔고 지금도 사용되고 있습니다. 따라서 베트남의 인공지능 관련 정책 및 법률 제정 및 완성이 시급합니다.

Phan Trung Ly 교수 - 사진: SIU

리 씨는 AI 개발 및 적용을 촉진하기 위한 법적 체계를 마련해야 한다고 강조했습니다. 구체적으로, 국가는 기업, 단체, 그리고 개인이 신뢰할 수 있고 인간 중심적인 AI 시스템을 개발, 제공, 배포 및 사용하도록 장려해야 하며, 중소기업이 디지털 기술 제품 및 서비스 테스트 메커니즘에 참여할 수 있도록 AI 시스템을 제공하도록 장려해야 합니다.

민법과 지적재산권법은 AI 제품의 소유권 문제를 다뤄야 합니다. 인공지능 제품의 소유권은 인간에게 있을까요, 아니면 AI에게 있을까요?

인간이 참여하는 AI 시스템을 개발할 때, 법은 관련된 개인의 인권과 존엄성을 존중하는 데 특별한 주의를 기울여야 합니다.

개발자는 적용 기술의 특성에 따라 가능한 한 AI 시스템을 훈련할 때 데이터의 편향으로 인한 차별이나 불공정이 발생하지 않도록 조치를 취해야 합니다.

개발자는 베트남의 기본 원칙에 따라 AI 시스템이 인간의 가치와 사회 윤리를 침해하지 않도록 예방 조치를 취해야 합니다. 특히 애국심, 연대, 자립, 충성, 정직, 책임감, 규율, 창의성, 공간적 사생활 보호, 정보 보호(개인 정보), 통신 비밀 유지 등의 기본 가치에 유의해야 합니다.

AI로 인한 피해에 대한 책임은 누구에게 있을까?

학회에 참석한 Le Bo Linh 박사 부교수 - 사진: SIU

AI 관련 신법 제정과 관련하여, 레 보 린(Le Bo Linh) 법사회연구소 부교수이자 전 국회 부사무총장은 교육부가 AI의 개발, 배포 및 적용에 대한 윤리 원칙을 제정할 것을 제안했습니다. AI가 제작한 디지털 기술 제품과 콘텐츠는 인위적으로 제작되었거나 조작된 것임을 명확하게 표시해야 합니다.

AI 시스템은 건강, 조직 및 개인의 정당한 권리와 이익, 인간의 안전 또는 재산, 국가 중요 정보 시스템 및 핵심 기반 시설의 안전에 미치는 영향을 기준으로 위험 수준에 따라 분류됩니다. 이러한 분류를 통해 AI 시스템을 다양한 위험 수준에 따라 관리할 수 있습니다.

또한, 인공지능과 관련된 최초의 법적 문제 중 하나는 지적 재산권과 저작권입니다.

AI 개발에 있어 알고리즘, 모델, 그리고 학습 데이터 구축은 매우 중요합니다. 그러나 현재의 지적재산권 관련 규제는 기술 발전을 따라가지 못하고 있습니다.

특히 AI가 생성한 제품의 저작권을 누가 소유하는지 판단하는 것은 복잡합니다. AI가 예술 작품이나 소프트웨어 프로그램을 제작하는 경우, 문제는 AI가 그 제품을 소유하는지, 아니면 AI를 프로그래밍한 사람이 소유하는지입니다. 현행 규정이 전적으로 적절하지 않을 수 있으며, 이는 향후 분쟁으로 이어질 수 있습니다.

AI가 손해를 입혔을 때의 책임 문제 또한 제기됩니다. AI는 인간의 개입 없이 결정을 내릴 수 있기 때문에 법적 판단이 어렵습니다. AI 시스템이 실수를 하거나 인간에게 손해를 입혔을 때, 누가 책임을 져야 하는지가 문제입니다. 제조업체, 개발자, 아니면 개인 사용자 중 누구의 책임일까요?

출처: https://tuoitre.vn/ai-gay-thiet-hai-ai-chiu-trach-nhiem-20250104134035537.htm