3개 과학기술기금 통합으로 자원 집중

11월 21일 오전 16차 회의(다낭시, 뚜옌꽝성, 까오방성 국회 대표단 포함)에서 국회 의원들은 국가인공지능개발기금 설립이 국가 인공지능 연구 역량 강화 및 지원과 AI 응용 분야 확대에 도움이 될 것이라고 밝혔습니다. 현재 과학기술 관련 기금이 두 개 더 존재하므로, AI를 포함한 연구 및 기술 혁신 지원에 자원을 집중하기 위해 이 두 기금을 통합하는 방안을 검토해야 합니다.

AI 연구 및 응용 분야에서 금지행위를 규제하는 것이 필요하다.

인공지능(AI)은 4차 산업혁명의 최첨단 기술로 자리 잡고 있으며, 사회 경제적 발전에 많은 기회를 열어주고 있습니다. 그러나 현행 법규로는 충분히 다루기 어려운 경영, 윤리, 안전 측면에서도 많은 시급한 과제를 안고 있습니다.

이에 따라 국회의원들은 인공지능을 위한 획기적인 법적 통로를 만들고, 혁신을 촉진하는 유리한 법적 환경을 조성하며, 국가 경쟁력을 강화하고, 동시에 위험을 관리하고, 국가 이익과 인권을 보호하기 위한 인공지능법 초안을 마련해야 한다는 데 모두 동의했습니다.

쩐 딘 쭝 국회의원( 다낭 시)이 연설하고 있다. 사진: 팜 탕

국가 기관에서 AI를 사용하는 것에 대해 우려를 표명한 국회의원 Tran Dinh Chung(다낭)은 이를 통해 기관, 공무원, 공무원이 많은 시간을 절약하고, 업무를 더 빠르고 동기적으로 처리하여 업무의 질을 향상시키는 데 도움이 될 것이라고 말했습니다.

국가 기관에 AI를 적용하는 데 따른 비용 및 시간적 이점 외에도, 대표자들은 현재 초안 법안에서 추가적으로 연구하고 명시해야 할 문제가 많다는 점을 지적했습니다.

첫째, AI 활용 시 보안 문제입니다 . 현재 공무원들은 AI 교육 및 운영 과정에서 입력 정보를 제공해야 하기 때문입니다. 따라서 이를 엄격하게 관리하지 않을 경우, 내부 데이터, 민감 데이터 또는 국가 기밀 정보가 AI 소프트웨어에 입력되거나, AI 교육 외의 목적으로 사용될 위험이 있습니다. 또한, 데이터의 저장 방법, 저장 장소, 접근 권한 등에 대한 구체적인 규정이 없는 경우 데이터 보안에 대한 우려도 제기됩니다.

둘째, 국가 기관의 방대한 데이터를 AI 소프트웨어에 집중시키는 것은 해커의 공격 및 데이터 유출 위험을 초래합니다. 특히 국가 기관이 AI 소프트웨어를 직접 개발하고 운영할 수 없고 외부 업체와의 협력에 의존하는 경우가 많기 때문에 이러한 위험 또한 증가하고 있습니다. 한편, 해외 스파이웨어 또한 빠르게 발전하고 있어 AI 활용은 데이터 유출 및 독점의 위험에 직면해 있습니다.

셋째, 또 다른 위험은 정확성입니다. AI 소프트웨어는 가용 데이터를 기반으로 학습하기 때문에 부정확한 결과를 생성할 수 있으며, 공무원들이 과거에 내놓았던 편향이나 잘못된 해결책을 물려받을 수 있습니다. 대표는 "부정확하거나 불완전한 데이터는 AI의 품질에도 큰 영향을 미칩니다."라고 강조했습니다.

공무원, 시민, 그리고 일반 국민들은 AI에 질문할 능력이 부족하여 제한된 답변만을 얻을 수 있습니다. 한편, AI는 새로운 법률 문서와 국가 기관의 새로운 지침을 업데이트하는 데 시간이 필요합니다.

타 반 하 국회의원(다낭시)이 연설하고 있다. 사진: 팜 탕

넷째, 현재 AI의 품질은 요구 사항을 충족하지 못하고 있습니다. 일부 AI 모델은 매우 복잡하여 분석 과정 제어, 데이터 처리, 그리고 AI가 특정 결정을 내리는 이유를 설명하기 어렵습니다. 또한, 알고리즘이나 AI 시스템의 오류 문제 또한 오류로 이어집니다.

쩐 딘 청 의원은 국가 기관에 AI를 적용하기 위한 기술 인프라 및 인적 자원 확보 외에도, 공무원들의 역량을 저하시킬 수 있는 AI 기술 남용 위험에 주의를 기울여야 한다고 지적했습니다. 공무원들은 AI가 관심 있는 질문에 대한 답을 찾는 데 도움이 되도록 소프트웨어에 AI를 적용하기만 하면 된다고 생각하기 때문에 연구를 소홀히 할 것입니다.

"국가 기관에서 AI 기술을 활용하는 것은 불가피한 추세입니다. 하지만 업무 효율성을 보장하는 동시에 정보 보안 및 안전을 확보하기 위해 AI 기술을 어떻게 활용할 것인가가 중요한 과제로 제기되고 있습니다." 따라서 쩐 딘 청 의원은 인공지능법 제정에 동의하는 동시에 관련 법률과의 일관성 및 일관성을 확보하기 위해 지속적으로 검토할 것을 제안했습니다.

또한 대표단은 현재 초안법처럼 AI 연구, 응용 및 도입에서 금지된 행동과 활동을 여러 조항에 분산시켜 모니터링하기 어렵게 만드는 대신, 이를 규제하는 조항을 연구하여 추가할 것을 제안했습니다.

대표단에 따르면, AI의 법적 책임을 명확하게 정의하는 것은 향후 법적 분쟁을 피하고 위반 사항을 처리하는 데 매우 중요합니다. 한편, AI는 기계 및 기술과 관련되어 있기 때문에 인위적인 오류 외에도 기계, 기술 또는 기타 요인에 대한 책임 소재를 따질 수 있습니다. 따라서 특히 국가 기관에서 AI를 적용하고 활용할 때 법적 책임이 모호해지는 것을 방지하기 위해 이러한 오류들을 매우 구체적으로 정의하기 위한 연구가 수행되어야 합니다.

각 분야의 위험관리를 담당하는 기관을 명확히 정의할 필요가 있다.

국회의원 브엉 티 흐엉(투옌 꽝)은 초안법 제2장 제2절에 명시된 고위험 AI 시스템 관리에 대한 우려를 표하며, 의료 분야를 인공지능 적용 시 고위험 분야로 지정해야 한다고 밝혔습니다. 인공지능은 인간의 생명과 건강, 민감한 개인정보, 그리고 사회적 신뢰에 직접적인 영향을 미치기 때문입니다. 영상 진단, 질병 치료, 수술, 유전자 분석 등을 지원하는 AI 시스템은 검사, 안전 기준 미비, 또는 교육 데이터의 투명성 부족으로 인해 심각하고 심지어 돌이킬 수 없는 결과를 초래할 수 있습니다.

국회의원 Vuong Thi Huong(Tuyen Quang)이 발언하고 있습니다. 사진: 팜탕

초안법은 위험의 분류 및 관리를 규정하고 있지만, 각 분야의 관리 담당 기관을 명확히 규정하지 않았습니다. 한편, 위원들은 보건 부문의 경우, 보건 부문의 역할을 명확히 규정하지 않고 정보기술 관리 기관에 총괄 조정 권한을 부여할 경우, 평가 중복, 전문 기준의 통일성 부족, 의료기기로 사용되거나 진료에 적용되는 인공지능 제품 관리의 어려움 등이 발생할 수 있다고 지적했습니다.

따라서 의료 분야에서 고위험 인공지능 시스템 관리를 총괄하는 업무를 보건부에 위임하고, 정보통신부 및 관련 부처와 협력하여 기술 표준, 임상 평가 및 안전 검사를 공포하고, 의료 기록 데이터 보안 및 의료 정보 시스템의 연결에 대한 규정을 제정하고, 사용 중 위험을 모니터링하는 규정을 보완하는 것이 제안되었습니다.

"초점을 명확히 정의하면 견고한 법적 기반이 마련되고 환자 안전이 보장되며 동시에 기술 기업과 의료 시설이 투명하고 통제된 방식으로 AI 애플리케이션을 배포할 수 있는 환경이 조성됩니다."라고 대표인 Vuong Thi Huong이 강조했습니다.

국회의원 베 민 득(까오방)은 초안법 제23조의 국가 인공지능 개발 기금 조항에 동의하며, 이 기금은 국내 연구 역량 강화 및 AI 응용 분야 확대를 위해 설립되었다고 밝혔습니다. 현재 국가과학기술개발기금과 국가기술혁신기금도 AI를 포함한 연구 및 기술 혁신 지원을 목표로 하고 있습니다.

국회의원 베 민 득(까오방)이 연설하고 있다. 사진: 팜 탕

각 기금의 범위와 대상은 다르지만, 모두 과학기술 분야에 집중되어 있습니다. 따라서 각 기금의 효과성을 높이고, 기능 중복과 자원 분산을 방지하며, 예산 부담을 가중시키기 위해 기금 유형 간의 연계성을 검토하고 정립하는 것이 바람직합니다.

대표단은 비록 같은 관리 부처에 속해 있지만, 이 세 가지 유형의 기금을 통합하여 자원을 집중하여 과학기술의 보다 유리한 발전을 위한 지원 정책을 시행하는 것을 고려해야 한다고 제안했습니다.

또한, 베 민 득 의원은 관련 전문 법률에 각 분야별 AI 관련 규정을 명시해야 한다고 제안했습니다. 이는 우리나라가 디지털 시대로 접어들고 있는 만큼 반드시 규제되어야 할 원칙입니다. 인공지능은 모든 산업, 사회경제, 국방 및 안보 분야에서 광범위하게 연구되고 적용되어 왔습니다. 이러한 원칙을 추가하면 오늘날처럼 빠르게 발전하는 기술 환경에서 특정 문제에 대한 포괄적인 규제를 보장하고 경영 요건을 충족하는 데 도움이 될 것입니다.

출처: https://daibieunhandan.vn/gop-3-quy-ve-khoa-hoc-cong-nghe-giup-tap-trung-nguon-luc-10396526.html