인공지능 제품의 투명성

오늘날 많은 인공지능(AI) 제품들은 기술적 개입 수준을 공개하지 않아 사용자가 진짜와 가짜를 구분하기 어렵게 만듭니다. 이러한 상황에서 투명성 의무를 명확히 정의하고 AI 제품에 라벨을 붙이는 것이 시급한 과제가 되었습니다.

FPT 는 다양한 분야의 AI 응용 프로그램을 전시하는 부스를 운영합니다.

오늘날 시각, 청각, 텍스트 콘텐츠 제작부터 자동화된 의사 결정 지원에 이르기까지 많은 AI 제품이 라벨이 없이 일반 콘텐츠로 공유되고 있습니다. 그 결과, 사용자는 자신이 인간이 생성한 콘텐츠인지 AI가 생성한 콘텐츠인지 알지 못하고, 잘못된 정보나 조작된 정보를 믿을 수 있습니다.

예를 들어, 미용실에서 AI가 생성한 모델 이미지가 담긴 광고를 게재하여 고객들이 실제 모델이라고 착각하게 만들지만, 실제로 서비스를 경험해 보면 광고와 같은 품질이 아니라는 것을 깨닫게 됩니다. 더 위험한 것은 AI가 유명인의 가짜 사진, 정치인의 발언을 흉내 낸 영상 , 또는 실제 인물의 이름을 사용한 AI가 만든 기사를 만들어 개인의 명예와 기관 및 단체의 평판을 손상시키는 것입니다.

또한, 라벨링 메커니즘의 부재는 디지털 플랫폼과 AI 제품에 대한 사용자의 신뢰를 떨어뜨립니다. 콘텐츠 출처에 대한 투명성이 부족한 디지털 환경은 사용자를 의심스럽게 만들고 거리를 두게 만듭니다. 한편, 대부분의 베트남 사용자는 콘텐츠 출처를 식별하고 검증하는 습관이 부족하며, AI 제품을 감지하는 기술 도구도 제한적입니다.

투명성 및 표시 의무를 명확하게 정의하는 것은 기술적 윤리적 요건일 뿐만 아니라 AI 제품 사용자와 개발자 모두를 보호하는 법적 근거이기도 합니다. 이러한 요건을 충족하기 위해 과학기술부는 인공지능법을 제정하고 있으며, 제12조에는 "투명성, 표시 및 책임"이 명시되어 있습니다.

따라서 라벨링은 AI 시스템에 의해 콘텐츠(텍스트, 이미지, 오디오, 비디오)가 생성되었거나 상당히 수정되었음을 명확하고 쉽게 인식할 수 있으며 기계가 읽을 수 있는 공지에 기술적 조치를 적용하는 것을 의미합니다. 이 공지는 콘텐츠가 널리 게시될 때 이루어져야 합니다.

이 규정은 AI가 생성하거나 편집한 제품에 대한 의무적 라벨링 의무를 규정하여 디지털 공간을 투명하게 만들고 소비자를 보호하며, 라벨링 실패로 인해 혼란이나 손상이 발생할 경우 공급업체와 배포자가 공동 책임을 지도록 하는 것을 목표로 합니다.

실제 사람, 사물, 장소 또는 사건을 시뮬레이션하는 콘텐츠의 경우, 법안 초안은 제공자가 해당 콘텐츠가 AI에 의해 생성되었음을 명확하게 식별하고 출처를 인증 및 추적할 수 있는 조치를 취해야 한다고 규정합니다. 이는 유럽연합(EU), 미국, 일본, 한국 등이 모두 유사한 규정을 발표한 국제적 추세에 발맞춰 AI 기술 관리에 있어 중요한 단계로 간주됩니다.

필요성에는 동의하지만, 많은 전문가와 기업들은 초안 법률의 라벨링 규정이 더욱 구체적이어야 한다고 생각합니다. 베트남 상법 유한책임법률사무소(Lexcomm Vietnam LLC)의 호앙 레 콴 변호사는 AI 제공업체가 라벨링 방식을 스스로 결정할 수 있는지, 아니면 정부의 지시를 따라야 하는지 명확히 해야 한다고 생각합니다.

지침이 있는 경우 명확해야 하며 국제 표준과 조화를 이루어야 하며, 베트남의 요구 사항이 완전히 다르거나 특히 다국적 공급업체의 경우 새로운 의무가 생기지 않도록 해야 하며, 이는 유럽 연합(EU), 한국, 미국 등 다른 시장에 비해 베트남의 AI 적용 및 개발 경쟁력에 영향을 미치지 않아야 합니다.

일부 의견은 AI 요소가 포함된 모든 콘텐츠에 라벨을 부착해야 하는지, 아니면 전적으로 AI에 의해 생성되었거나 상당한 개입이 이루어진 제품에만 라벨을 부착해야 하는지, 적용 범위와 수준을 명확하게 정의해야 한다는 점을 강조합니다. 베트남 법률 미디어 주식회사(LuatVietnam.vn)의 쩐 반 트리(Tran Van Tri) 이사는 콘텐츠에 AI가 부분적으로만 적용된 경우에도 라벨을 부착해야 하는지, AI가 지원한 창작물인지 또는 AI가 완전히 창작한 창작물인지 명확하게 명시해야 한다고 말했습니다.

엔터테인먼트 업계에서는 일부 기업들이 AI 제품에 엄격한 라벨링 의무를 면제하고, 대신 사용 수준에 따라 경고 또는 투명한 자체 공개를 적용하는 유연한 메커니즘을 원합니다. AI는 사운드, 이미지, 그리고 효과를 개선하는 데 널리 사용됩니다. 모든 제품에 라벨링을 의무화한다면 비용과 절차가 증가하여 창의성을 저해할 것입니다.

과학기술부 장관은 인공지능법 초안이 관리와 개발 촉진 간의 합리적인 균형을 찾고, 투명성과 실현 가능성을 보장하며, 국제 표준에 부합하는 방향으로 작성되었다고 밝혔습니다. 인공지능법 초안의 목적은 인간이 만든 콘텐츠와 기계가 만든 콘텐츠의 경계를 명확히 하고, 느슨한 관리나 과도한 규제라는 양극단을 피함으로써 투명하고 책임 있는 틀 안에서 기술이 개발될 수 있도록 하는 것입니다.

하린

출처: https://nhandan.vn/minh-bach-hoa-san-pham-tri-tue-nhan-tao-post920112.html