고위험 AI만 강화, 혁신 저해 방지 방안 제시

5월 9일, 국회 의원들은 회의장에서 디지털기술산업법 초안의 여러 가지 논란이 되는 내용을 논의했습니다. 특히 인공지능(AI) 관련 규정은 실행 가능성과 국제 관행과의 일관성을 확보하기 위해 계속해서 많은 의견이 제시되고 있습니다.

토론 세션에 참여한 도 응옥 틴 대표(칸호아 대표단)는 초안법 제3조 10항의 AI 정의가 기술의 특성을 정확하게 반영하지 못하며 국제적 접근 방식과 일치하지 않는다고 말했습니다.

그는 많은 국가와 유럽연합에서 채택한 경제협력개발기구(OECD)의 정의를 참조할 것을 제안했습니다. 따라서 AI는 "입력 데이터를 추론하여 물리적 또는 가상 환경에 영향을 미치는 예측, 권장 사항 또는 결정의 형태로 출력을 생성함으로써 명시적 또는 암묵적 목표를 달성하는 것을 목표로 하는 기계 기반 시스템"으로 이해되어야 합니다.

Do Ngoc Thinh 대표단 (Khanh Hoa 대표단).

틴 대표는 적절한 정의를 제공하는 것이 효과적인 관리 규정을 구축하는 데 중요한 기반이며, 실제로 기술을 적용하는 것을 용이하게 한다고 강조했습니다.

인공지능 시스템 분류(제46조)와 관련하여, 칸호아 대표단은 현행 규정이 EU AI법과 유사하지만 불분명한 점도 있다고 평가했습니다. EU에 따르면 AI는 주로 위험 수준에 따라 '허용할 수 없음'에서 '최소'까지 분류됩니다. 그러나 베트남의 초안에서는 "고위험" 그룹과 겹치거나 갈등할 수 있는 "영향력이 큰 AI 시스템" 그룹을 추가했습니다.

틴 씨는 "이 분류가 다른 조항의 구체적인 책임과 연계되지 않으면 실행하기 어렵고 일관성이 부족할 것"이라고 말했습니다. 동시에 분류 철학을 명확히 하고, 저위험 시스템에 대한 불필요한 규제 강화를 피하면서 고위험 AI 시스템에만 규정을 적용하는 것이 좋습니다. 이를 통해 혁신을 지원하고 기술의 잠재력을 효과적으로 활용할 수 있습니다.

규정의 모호성에 대해 동일한 견해를 공유하는 Le Thi Thanh Lam 대표(하우장 대표단)는 제46조 1항에 정의된 고위험 AI 시스템에 대한 정의는 여전히 일반적이며, 위험을 판단하기 위한 영향 수준, 사용자 수, 데이터 용량과 같은 구체적인 기준을 제공하지 않는다고 언급했습니다. 램 씨는 "구체적인 기준이 없으면 실제로 시행하기 어렵다"고 말했다.

램 여사는 또한 기술에 대한 지나치게 세부적인 규제는 불필요할 수 있으며, 대신 기술 사용 행동 관리에 중점을 두어야 한다고 말했습니다. 특히, 제48조에 명시된 AI 개발자의 책임과 관련하여, 그녀는 일부 의무가 특히 오픈 소스 기술의 맥락에서 이 주제에 너무 큰 부담을 주고 있다고 생각합니다.

루 바 맥 대표(랑선 대표단)는 사회에 큰 영향을 미치거나 위험 수준이 높은 AI 시스템의 경우, 실제 사용에 앞서 국가가 지정하거나 인정하는 독립 기관에서 검사 및 평가를 받도록 규정을 추가할 것을 제안했습니다.

대표 루 바 맥(랑선 대표단).

현재 초안법 제44조는 AI 개발 및 활용을 위한 6가지 원칙만을 설명하고 있으며, 각 부처에 이를 이행하도록 지시하고 있습니다. 제46조는 AI 시스템(고위험, 고영향 시스템 포함)의 관리에 대해서도 언급하고 있지만, 배포 전 독립적인 검토 메커니즘을 명확히 규정하지는 않았습니다.

제46조 5항에는 정부가 세부 규정을 마련해야 한다고 명시되어 있지만, 맥 의원은 특히 디지털 전환의 현재 상황에서 AI를 활용할 때 투명성과 국가 관리의 효율성을 높이고 국민과 기업이 안심할 수 있도록 독립적인 검사에 대한 명확한 원칙이 법률에 있어야 한다고 말했습니다.

제47조 1항에 관하여, 이 초안은 인간과 직접 상호작용하는 AI 시스템은 사용자가 AI와 상호작용하고 있다는 것을 "명백히 알고 있는" 경우를 제외하고는 사용자에게 통지해야 한다고 규정하고 있습니다.

랑선 대표단에 따르면, 이 표현은 "분명히 알고 있다"는 것이 주관적인 개념이기 때문에 불분명하다고 합니다. 각 개인의 수준, 경험, 상황에 따라 달라지기 때문입니다. 기술에 정통한 사람들은 AI를 쉽게 인식할 수 있지만, 나이 많고 기술에 익숙하지 않은 사람들은 그렇지 못합니다. 따라서 이런 표현은 AI의 본질을 은폐하는 데 사용되어 사용자에게 피해를 줄 수 있습니다.

따라서 맥 씨는 인간과 상호작용하는 AI 시스템이 사용자에게 자신이 AI와 상호작용하고 있다는 사실을 명확하고 쉽게 알려야 한다는 방향으로 규정을 개정할 것을 제안했습니다. 이 알림은 기본적으로 활성화되어야 하며, 사용자가 적극적으로 비활성화하도록 선택하지 않는 한 자동으로 숨겨지거나 비활성화되지 않아야 합니다.

민 투

출처: https://doanhnghiepvn.vn/cong-nghe/de-xuat-chi-siet-chat-ai-co-rui-ro-cao-tranh-can-tro-doi-moi-sang-tao/20250510094811591