입법 과정에 AI 적용 시 위험 조기 예방

10월 3일, 응우옌 하이 닌 법무부 장관은 총리 정책 자문 위원회와 "새로운 시대의 국가 발전 요구에 부응하기 위한 베트남 법률 제도 구조 개선" 프로젝트 개요에 관해 회의를 가졌습니다.

위 프로젝트는 법 체계 구조의 포괄적인 개혁을 제안하는데, 이는 형식적인 측면뿐 아니라 입법적 사고방식 측면에서도 마찬가지입니다. "관리할 수 없으면 금지하라"는 사고방식을 바꾸기 위해, 본 프로젝트는 법 체계가 개발을 적극적으로 유도하고 촉진하도록 설계되어야 함을 명시하고 있습니다.

이에 따라, 제4차 산업혁명으로 인해 발생하는 문제를 규제하기 위해 새로운 법률 부문과 분야가 구축되고, 성장 거점과 전략 산업을 활성화하기 위한 구체적이고 우수하며 국제적으로 경쟁력 있는 법적 메커니즘이 확립되며, 새로운 분야에 통제된 시험 메커니즘을 적용할 수 있는 법적 문서가 마련됩니다.

특히 공법과 사법의 두 영역이 명확하게 정의되어 있습니다. 공법의 경우, 국가와 개인/조직 간의 관계를 규율하는 규칙은 충분한 권한을 부여하는 동시에 권력을 효과적으로 통제할 수 있도록 엄격하게 설계되어야 합니다. 반면, 평등한 개인/조직 간의 관계를 규율하는 규칙(사법)은 자율성과 창작의 자유를 최대한 존중하는 토대 위에 구축되어야 합니다.

실무 회의에서 의견들은 위의 변화가 성공적으로 이행될 경우 혁신과 경제 성장을 촉진하고, 민주주의를 증진하며, 인권과 시민권을 더욱 효과적으로 보호하는 등 사회에 광범위하고 긍정적인 영향을 미칠 것이라는 점을 인정했습니다. 특히, 공법/사법적 사고를 명확하게 적용함으로써 국가 권력의 한계를 명확히 정의하고, 국민의 삶과 사업 운영에 대한 자의적인 개입을 방지할 수 있습니다. 이를 통해 법치주의가 강화되고 시민 사회와 민간 경제가 발전할 수 있는 자유로운 공간이 확보될 것입니다.

그러나 워크숍에 참석한 대표들은 또한 방대한 양의 법률 문서를 수정하고 동시에 초안을 작성하려면 초안 작성 기관뿐만 아니라 평가 및 검증 기관에도 많은 법률 전문가가 필요하다고 지적했습니다.

또한, "인공지능 기술, 빅데이터를 수색, 초안 작성, 법 집행 감시에 적용"하는 제안은 매우 현대적이고 필요한 방향으로 여겨지지만, 대규모 재정적 투자뿐만 아니라 알고리즘 편향, 데이터 보안, AI가 잘못된 제안을 할 경우의 법적 책임 등으로 인한 위험을 방지하기 위한 법적, 윤리적, 기술적 프레임워크도 필요합니다.

본 프로젝트는 법률 업무에 AI를 적용하는 시범 프로그램 또는 프로젝트를 제안하고, 체계화 및 문서 검색과 같이 위험성이 낮은 단계부터 시작해야 합니다. 동시에, 국가 활동 전반, 특히 법률 분야에서 AI 개발 및 적용을 위한 법적 체계와 윤리 기준을 조속히 연구하고 구축해야 합니다.

푸옹 씨

출처: https://www.sggp.org.vn/phong-ngua-som-nhung-rui-ro-khi-ung-dung-ai-trong-xay-dung-phap-luat-post816203.html