인공지능법 초안: 인간 중심적이고 균형 잡히고 조화로운 거버넌스

11월 17일 오후, 국회 부의장 레 민 호안의 지시로 국회 상임위원회는 인공지능법 초안에 대한 의견을 밝혔습니다.

위험 기반 관리, AI를 4단계로 분류

과학기술부 장관 응우옌 마잉 훙은 초안 법안을 간략히 소개하면서, 이 초안 법안은 인공지능 시스템의 연구, 개발, 제공, 배포 및 이용 촉진을 규정하는 8장 36조로 구성되어 있으며, 베트남 내 인공지능 활동에 대한 관련 기관 및 개인의 권리와 의무, 국가 관리 등을 규정하고 있다고 밝혔습니다.

특히, 인공지능 시스템 위험 분류 및 관리에 관한 법률 초안 제2장은 위험 기반 관리 접근법을 제시하며, 인공지능을 4단계로 분류하고 그에 따른 의무를 부과합니다. 이에 따라 인공지능 시스템은 위험에 따라 다음과 같은 4단계 위험으로 분류됩니다. 허용할 수 없는 위험: 시스템이 심각하고 회복 불가능한 피해를 초래할 가능성이 있는 위험; 고위험: 시스템이 생명, 건강, 권리 및 정당한 이익을 훼손할 수 있는 위험; 중간 위험: 시스템이 사용자를 혼란스럽게 하거나, 조작하거나, 기만할 가능성이 있는 위험; 저위험: 나머지 경우.

과학기술부 장관 응우옌 마잉 훙은 인공지능에 관한 법률 초안의 요약을 발표했습니다.

공급업체는 유통 전에 시스템을 자체적으로 분류해야 하며, 분류 결과에 대한 책임을 져야 합니다. 중위험 및 고위험 시스템의 경우, 공급업체는 원스톱 정보 포털을 통해 과학기술부에 신고해야 합니다. 담당 기관은 분류를 확인하고 재평가할 권리가 있습니다.

초안법은 투명성, 표시 및 책임에 대한 책임을 규정합니다. 구체적으로, 배포자는 가짜 요소로 제작 또는 편집된 콘텐츠, 오해를 유발할 수 있는 실제 인물을 모방한 콘텐츠(딥페이크), 또는 소통 및 광고 목적으로 인공지능이 제작한 콘텐츠에 대해 명확하게 알리고 표시해야 합니다. 공급업체와 배포자는 영향을 받는 사람들의 요청이 있을 경우 고위험 시스템의 처리 결과를 설명해야 합니다.

사고 처리와 관련하여, 초안 법안은 당사자들이 시스템을 신속하게 복구, 중단 또는 철회하고 원스톱 정보 포털을 통해 보고할 책임이 있다고 명시하고 있습니다.

인공지능법 제정은 매우 필요하고 시급합니다. 따라서 과학기술부 장관은 인공지능법 초안을 국회에 제출하여 제10차 정기국회에서 심의 및 승인을 받도록 제안했습니다.

과학기술환경위원회 위원장인 응우옌 탄 하이는 법안 초안 검토 보고서를 간략히 발표하면서 법안 초안의 내용은 기본적으로 헌법 규정과 법 체계와 일치한다고 말했습니다.

과학기술환경위원회 위원장인 응우옌 탄 하이는 인공지능법 프로젝트 검토 보고서 요약을 발표했습니다.

그러나 검사 기관은 민법, 제품 및 물품 품질법, 기술 표준 및 규정법 등 여러 법률과의 일관성을 계속 검토하고, 이 법과 관련 전문법(교육, 보건, 교통, 언론 등 분야)의 관계를 명확히 하고, 지식재산권에 관한 법률 초안(AI가 만든 제품의 지식재산권 보호 문제, AI 관련 교양·대학·직업 교육 과정의 내용)을 마련하는 것이 좋습니다.

국제 조약과의 호환성과 관련하여, 최근 하노이에서 서명된 유엔 사이버범죄방지협약(하노이협약)의 내용을 지속적으로 검토하고, 특히 업데이트하는 것이 좋습니다.

AI 시스템의 위험성에 따른 분류 및 관리와 관련하여, 위원회는 국제적 경험과 베트남의 현실을 토대로 인공지능 시스템의 위험성을 4단계(허용할 수 없는 위험성, 높은 위험성, 중간 위험성, 낮은 위험성)로 분류하는 데 동의합니다.

그러나 이 법안 초안은 위험을 식별하고 분류하기 위한 정량적 또는 정성적 기준을 명확하게 정의하지 않았습니다. 실제로 위험 평가를 위한 관리 조치, 도구 및 방법이 부족하여 분류가 어렵고, 특히 "용납할 수 없는 위험"의 경우, 시행 과정에서 법적 책임에 대한 우려가 제기되고 있습니다.

자체 분류 및 위험 관리와 관련하여 과학기술환경위원회는 분류의 개방적 원칙에 대한 규정을 연구하고 보완하여 각 부처와 전문 관리 기관이 각 분야에 적합한 세부 지침을 내릴 수 있도록 제안했습니다. 시스템의 자율성 수준, 영향 규모, 확산 가능성, 인권, 안보 및 사회 안전에 영향을 미칠 위험에 따라 위험 수준을 결정하는 원칙을 보완하고 국제 ISO를 참조하여 보다 적합한 기준을 제공하기 위한 로드맵, 정량적 기준 세트, 측정 도구 및 기술 지침을 시급히 개발해야 합니다.

동시에 기술 문서, 활동 기록 등 사전 검사 규정을 유통 전에 검토하고 축소하는 것이 좋습니다.이로 인해 기업의 규정 준수 비용이 증가하고 혁신 및 AI 응용 프로세스가 지연되며 경쟁력과 투자 유치가 감소하므로 사후 검사 메커니즘으로 강력히 전환해야 합니다.

AI를 통제하고 효과적으로 배포하려면 시기적절한 법적 틀이 필요합니다.

회의에서 쩐 탄 만 국회의장은 제9차 국회에서 통과되어 2026년 5월 1일부터 시행되는 디지털 기술 산업법의 제4장에는 인공지능(AI)을 규제하고 개발 원칙과 위험 관리를 정의하는 내용이 포함되어 있다고 밝혔습니다. 이는 베트남 최초의 AI 관련 법적 틀이지만 아직 독립적인 법률은 아닙니다. 인공지능법은 향후 AI를 개발하고 관리하는 법이 될 것입니다.

국회의장에 따르면, 인공지능은 사회경제 발전, 국가 안보, 그리고 국제 통합의 핵심 동력이 되고 있습니다. 그러나 기회인 만큼 많은 어려움도 따르기 마련이므로, 인공지능을 효과적으로 통제하고 실행하기 위한 시의적절한 법적 체계가 필요합니다.

국회의장은 초안 법률이 네 가지 주요 축을 보장해야 한다고 제안했습니다 . 첫째, 혁신 촉진, AI 연구 및 상용화를 위한 명확한 법적 통로 마련. 둘째, AI 시스템의 인권, 투명성, 공정성, 책임성 보장. 셋째, 초안에 명시된 AI 영향의 네 가지 단계에 따른 위험 관리. 넷째, 국가 데이터 주권을 유지하면서 국제 협력 및 글로벌 표준과의 조화.

동시에 국회 의장은 초안 법안이 국민을 중심으로 하고, 사이버 보안, 국가적 자치와 국제적 통합, 지속 가능한 포용적 개발, 균형 있고 조화로운 거버넌스를 보장하는 등 고유한 특징을 갖춰야 한다고 강조했습니다.

국회의장은 AI 관리를 위험 수준에 따라 분류하는 것이 국가 안보, 인권, 사회 질서에 영향을 미칠 수 있는 AI 시스템을 효과적으로 제어하는 데 도움이 되는 혁신적인 하이라이트라고 생각하며, 실행하면서 경험으로부터 배우고, 실행하면서 업그레이드하고, 실행하면서 학습해야 한다고 강조했습니다.

국회의장은 또한 많은 국내 기업이 AI 분야에 진출했기 때문에 관리를 위한 기본법이 필요하고, 정부는 시대와 단계에 맞게 시행을 지도해야 한다고 지적했습니다.

국회의장은 또한 개인정보 보호 및 개인정보보호 규정 강화, 2018년 사이버보안법과의 조화 확보, 부다페스트 범죄협약, 그리고 최근 하노이 사이버범죄예방통제협약 등 우리나라가 가입한 국제 공약 관련 규정 개정에도 주의를 기울여야 한다고 제안했습니다. 과학기술부, 공안부, 국방부 및 관련 부처 간 협력 체계를 보완해야 합니다. 인터넷 관리 및 네트워크 안전·보안 확보는 별도의 부처나 부문의 책임이 아니기 때문입니다.

입법 기법과 관련하여 국회 의장은 실행 가능성을 확보하고, 명확한 전환 조항을 마련하며, 전문법과의 중복을 피하기 위해 초안 법안을 지속적으로 검토해야 한다고 지적했습니다.

레 민 호안 국회 부의장은 이 내용에 대한 마무리 발언에서, 법안 초안에 새롭고 복잡하며 심도 있는 내용이 많아 준비 기간이 매우 시급하다고 인정했습니다. 그러나 정부, 과학기술부, 과학기술환경위원회, 그리고 국회 산하 기관들은 주어진 과제를 충실히 이행하기 위해 최선을 다해 왔습니다.

국회 심의 및 승인을 위해 제출된 법률안의 질을 확보하기 위해, 국회 부의장은 정부에 국회 상임위원회의 의견과 민족협의회 및 국회 산하 기관의 심사의견을 바탕으로 초안 작성 기관 및 관련 기관이 검토, 연구, 흡수, 그리고 충분한 설명을 할 수 있도록 지시해 줄 것을 요청했습니다. 이에 따라 본 법률은 국회에 제출될 기본법으로 통일됩니다.

이를 바탕으로 국회 부의장은 당의 지침과 국가 정책의 완전한 제도화를 보장하고, 특히 과학기술혁신법, 디지털기술산업법, 데이터법, 사이버보안법 등 법 체계와의 일관성 및 동기화를 확보하기 위한 검토를 지속할 것을 제안했습니다. 또한, 이번 회의에서 제출된 법률 초안들을 포함하여, 권력을 통제하고 입법 활동에서 부패와 부정을 방지하기 위한 정치국 규정을 엄격히 이행할 것을 제안했습니다.

출처: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-lay-con-nguoi-la-trung-tam-quan-tri-can-bang-va-hai-hoa-10395999.html