인공지능 분야 행정위반 시 최대 20억 VND 벌금 부과 가능

제10차 회의 일정을 이어가며, 11월 21일 오전, 과학 기술부 장관 응우옌 마잉 훙은 국회에 인공지능법 초안을 제출했습니다.

과학기술부 장관 응우옌 마잉 훙.

응우옌 마잉 훙 장관은 이 법이 베트남 내 인공지능(AI) 연구, 개발, 배포 및 응용 분야의 관리와 촉진을 균형 있게 조정하기 위한 체계적이고 포괄적인 조치를 제공한다고 말했습니다.

" 인공지능법은 사람을 중심에 두고, 인공지능이 사람을 대체하지 않고 사람에게 봉사하며, 사람이 중요한 결정에서 인공지능을 감독해야 한다는 최고 원칙을 따릅니다. 인공지능은 투명하고 책임감 있고 안전해야 합니다. "라고 응우옌 만 훙 씨는 강조했습니다.

과학기술부문 사령관은 인공지능 시스템 위험수준에 따른 관리에 관한 법률 초안이 국내 인공지능 발전과 인공지능 자율성을 장려하고, 인공지능을 신속하고 지속 가능한 성장의 원동력으로 삼고, 국가 디지털 주권을 보장한다고 밝혔습니다.

정부는 인공지능 개발에 대한 위험을 허용 불가(가장 높은 수준), 고위험, 중위험, 저위험 등 4가지 수준으로 규제합니다.

중위험 및 고위험 시스템의 경우, 공급업체는 과학기술부에 신고해야 합니다. 허용할 수 없는 수준의 위험을 지닌 시스템은 어떤 형태로든 개발, 공급, 배치 또는 사용이 금지됩니다.

정부는 또한 법률로 금지된 행위에 사용되는 시스템, 가짜 요소를 사용하여 속이고, 조종하고 심각한 피해를 입히는 것, 취약 계층(어린이, 노인 등)의 약점을 악용하는 것, 국가 안보에 심각한 피해를 주는 가짜 콘텐츠를 만드는 것 등을 포함하는 금지 활동 목록을 제안했습니다.

정부가 제출한 계획에 따르면, 이 분야를 위반하는 기관 및 개인은 징계 조치, 행정 제재 또는 형사 고발의 대상이 될 것입니다. 피해가 발생할 경우, 민법에 따라 배상해야 합니다.

여러 참여자(개발, 공급, 구현)가 있는 경우, 각 참여자는 공동으로 보상해야 합니다. 보상 책임은 각 당사자가 적용한 실제 통제 수준, 예측 가능성 및 위험 관리 조치에 따라 결정됩니다.

이 법안은 조직의 경우 최대 20억 동, 개인의 경우 최대 10억 동까지 행정 벌금을 부과하도록 규정하고 있습니다.

심각한 위반의 경우, 최대 벌금은 전년도 조직 매출액의 2%까지 부과될 수 있습니다. 반복 위반의 경우, 최대 벌금은 전년도 조직 전 세계 매출액의 2%까지 부과될 수 있습니다.

정부는 위반 사항을 처리하는 것 외에도 고품질 인적 자원에 대한 연구, 투자 및 교육을 지원하는 많은 정책을 제안하여 기업, 조직 및 개인이 인공지능 개발 및 응용에 참여할 수 있는 환경을 조성했습니다.

과학기술환경위원회 위원장인 응우옌 탄 하이가 검토 보고서를 발표했습니다.

과학, 기술, 환경 위원회 위원장인 응우옌 탄 하이는 검토 보고서를 발표하면서 위원회가 기본적으로 위험을 4단계(낮음, 중간, 높음, 허용할 수 없는 위험)로 분류하는 데 동의했다고 말했습니다.

" 그러나 초안 법안은 위험을 식별하고 분류하기 위한 양적 또는 질적 기준을 명확히 정의하지 않았으며, 위험 평가를 위한 관리 조치, 도구 및 방법에 대한 규정이 없어 위험 분류 및 자체 분류가 어려워 시행 시 법적 책임에 대한 우려가 있습니다 ."라고 응우옌 탄 하이(Nguyen Thanh Hai) 여사는 말했습니다.

사전 검사 규정과 관련하여 감사원은 제품 출시 전 기술 문서 및 작업 일지 요구 사항 등 사전 검사 규정을 검토하고 완화할 것을 제안했습니다. 이는 규정 준수 비용을 증가시키고 혁신 및 AI 적용 과정을 지연시키며 경쟁력과 투자 유치를 감소시키므로 사후 검사 메커니즘으로의 강력한 전환을 연구해야 합니다.

인공지능 시스템 및 인공지능을 위한 데이터베이스의 국가 데이터베이스와 관련하여, 과학기술환경위원회는 인공지능을 위한 데이터의 품질을 보장하기 위해 데이터가 "정확하고, 충분하고, 깨끗하고, 살아 있어야" 하며, 통일된 방식으로 공유되어야 한다는 핵심 원칙을 추가할 것을 제안했습니다.

또한 검사기관은 데이터 분산을 방지하고 AI 연구개발에 병목현상을 일으키지 않도록 상호 연결 및 데이터 공유 메커니즘을 구축해야 하며, 국가 AI 인프라에 대한 네트워크 보안, 데이터 보안 및 방어를 보장하는 의무적 원칙을 마련하여 하이재킹 및 데이터 유출 위험을 방지해야 한다고 밝혔다.

관련 당사자의 법적 책임과 관련하여, 인간이 저지른 행위와 오류는 AI에 의해서도 발생할 수 있습니다. 한편, AI 자체의 법적 책임에 대해서는 다양한 견해가 존재하기 때문에 전통적인 의미에서 책임을 명확히 규정하기는 어렵습니다. 사고 발생 시 행정적, 민사적, 형사적 책임에 대한 분쟁이 발생할 수 있습니다.

과학기술환경위원회 위원장은 " 따라서 국경을 넘는 AI 서비스 제공 시 주체와 해외 공급자를 포함한 관련 당사자 간의 책임을 구분하고, 기술적 한계와 예측 불가능한 상황으로 인한 고의와 비고의의 경우 또는 오류를 구분하는 원칙을 보완할 필요가 있다" 고 말했다.

금지행위에 대해서는, 검사기관이 금지행위 규정을 보완하여 연구단계부터 AI 활용단계까지 위반행위를 조기에 파악하는 데 기여할 것을 제안했습니다.

여기에는 AI를 이용하여 다음과 같은 금지된 행위를 수행하는 사용자, 조직 및 개인의 행동이 포함되어야 합니다. AI를 사용하여 무질서를 유발하거나, 정치를 선동하거나, 국가 안보를 침해하거나, 투표와 선거를 조작하는 것을 금지합니다. AI를 사용하여 가짜 콘텐츠를 만들거나, 사기를 치기 위한 이미지, 비디오 클립을 만들거나, 명예와 존엄성을 모욕하거나, 분열을 조장하거나 기타 악의적인 목적을 갖는 것을 금지합니다.

영어

출처: https://vtcnews.vn/vi-pham-hanh-chinh-trong-linh-vuc-tri-tue-nhan-tao-co-the-bi-phat-den-2-ty-dong-ar988249.html