AI와 관련된 위험을 평가하는 메커니즘이 필요합니다.

AI가 생성한 제품에 라벨링하기

Quang canh.jpg — 11월 27일 오후 국회 모습. 사진: 광푹

오늘날 AI 위험 관리 메커니즘을 강조하며, 호치민시 응우옌 탐 훙 의원은 공급업체가 AI 콘텐츠에 기계 판독 가능한 표시를 하도록 요구하는 법안 초안이 매우 필요하다고 의견을 밝혔습니다. 하지만 그는 콘텐츠가 혼란을 야기할 위험이 있는 경우, 일반 사용자, 특히 어린이와 노인을 허위 정보 및 딥페이크(deep fake) 위험으로부터 보호하기 위해 대화형 인터페이스에 식별 정보를 직접 표시하도록 의무화하는 방안을 검토할 것을 제안했습니다. 이 규정은 기술 제공업체의 사회적 책임을 강화하고 사람들의 디지털 신뢰를 구축합니다.

이와 함께 응우옌 탐 훙(Nguyen Tam Hung) 의원은 연구를 통해 현재의 다목적 AI 모델이 텍스트나 이미지를 생성할 뿐만 아니라 소스 코드, 공격 도구, 실행 명령, 사이버 공격 프로세스, 금융 사기 수법 등을 생성할 수 있다는 것을 발견했다고 밝혔습니다. 그는 소스 코드 생성을 허용할 때 모델의 "자체 생성 능력"을 제어해야 할 의무를 추가하고, 네트워크 보안과 사회 질서 및 안전을 보장하기 위해 경고, 차단 및 출력 제한 메커니즘을 구축해야 한다고 제안했습니다.

Tam Hung.jpg — Nguyen Tam Hung(HCMC) 대표. 사진: QUANG PHUC

또한 AI가 초래하는 위험을 살펴보면서, Pham Van Hoa( 동탑 ) 의원은 AI 기술은 인간을 지원하는 도구이기는 하지만 많은 높은 위험을 초래한다고 말했습니다. 의원은 초안 위원회에 이 문제에 대한 객관적이고 정확한 평가를 요청했습니다.

팜 반 호아 의원은 "이러한 위험은 인명, 재산, 권리, 그리고 조직과 개인의 정당한 이익에 영향을 미칠 수 있습니다."라고 말하며 AI로 만들어진 제품에는 라벨이 있어야 한다고 덧붙였습니다. 그에 따르면, AI 라벨을 붙이는 것은 어떤 제품이 AI로 만들어졌고 어떤 제품이 그렇지 않은지 사람들에게 알리기 위한 것입니다.

Pham Van Hoa 대표(Dong Thap). 사진: QUANG PHUC

한편, 찐 티 투 안(Trinh Thi Tu Anh, 람동 ) 의원은 초안법 제11조가 기술적 영향에 기반한 위험 평가라는 사고방식을 충분히 반영하지 못한다고 지적했습니다. 그녀는 현재 상황에서 AI는 아직 확인되지 않은 유해한 방법을 만들어낼 수 있다고 지적했습니다. 따라서 찐 티 투 안 의원은 다음과 같은 조항을 추가할 것을 제안했습니다. "정부는 위험 평가, 기술 동향 및 실질적인 관리 요건을 바탕으로 허용할 수 없는 위험이 있는 인공지능 시스템 목록을 구체적으로 명시하고 주기적으로 업데이트 및 보완해야 합니다. 이 메커니즘은 법이 시대에 뒤떨어지지 않고 새로운 위험에 신속하게 대응할 수 있도록 보장합니다."

AI 남용 방지

쩐 칸 투(흥옌) 의원은 AI가 진료 및 치료 지원에 미치는 영향을 지적하며, AI는 의료 산업 프로세스를 최적화하여 의사와 의료 전문가의 업무 부담을 줄여줄 뿐만 아니라, 개인 맞춤형 치료를 통해 의료 결과를 개선하고 자원 활용 효율성을 높이는 데 중요한 역할을 한다고 말했습니다. 그러나 AI를 건강 징후 감지에 적용하는 것은 때로는 역효과를 낳을 수 있습니다.

Tu Anh.jpg — 대표 Tran Khanh Thu (Hung Yen). 사진: QUANG PHUC

여성 대표는 호찌민시에 거주하는 55세 환자가 병원에 이송되었을 당시 무기력한 상태였던 실제 사례를 언급했습니다. 그 전에는 환자 가족이 AI를 이용해 진단을 내린 후, 환자에게 필요한 약을 사러 갔습니다. 약을 복용한 후 환자의 상태가 악화되어 병원으로 이송되었을 때, 그는 뇌 손상, 뇌졸중, 그리고 불가피한 후유증이라는 진단을 받았습니다.

"물론, 검색 결과를 진단이나 약 처방에 사용해서는 안 됩니다. 하지만 AI 처방에 따라 약을 판매하는 사람들이 법을 위반하는 것일까요?" 쩐 칸 투 의원은 이 인공지능법 초안에 의료 분야에서 인공지능 제품을 관리하기 위한 더욱 구체적인 법적 틀, 특히 관련 당사자의 책임에 관한 조항이 포함되기를 기대하며 의문을 제기했습니다.

초안에서 감사 후에서 감사 전으로 전환하는 것과 관련하여 Tran Khanh Thu 의원은 모델이 알고리즘을 변경하거나 사용자 크기를 늘리거나 학습 데이터가 특정 임계값을 초과하는 경우와 같이 명확한 정량적 임계값이 있어야 한다고 제안했습니다.

Trọng Nghĩa.jpg — Pham Trong Nghia(Lang Son) 대표. 사진: QUANG PHUC

"AI 남용"에 대해 더 자세히 살펴보면, 팜 쫑 응이아(랑선) 의원은 우리가 삶에서 AI에 지나치게 의존하면 사고력과 창의력이 저하될 것이라고 말했습니다. AI 남용은 국가 주권 침해, 공공 행정의 효율성 저하, 각 개인과 가정, 특히 젊은 세대에 부정적인 영향을 미치는 등 여러 가지 잠재적 불안정성을 초래합니다.

"공공 부문에서 AI 남용은 정책과 법률의 실현 가능성, 인간성, 그리고 효과를 저하시킵니다. AI에 민감한 정보와 데이터를 제공하는 것을 엄격히 통제하지 않으면 데이터 유출로 이어져 국가 안보와 사회 질서, 그리고 예측할 수 없는 결과를 초래할 수 있습니다."라고 팜 쫑 응이아 의원은 말했습니다. 그는 공공 부문에서의 AI 남용 금지를 포함한 금지 행위를 규정하는 조항을 초안에 추가할 것을 제안했습니다.

도 트룽

출처: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html