책임 있는 AI 연구 개발을 위한 9가지 원칙

일러스트 사진. 출처: VNA

따라서 AI 시스템의 연구, 설계, 개발 및 제공에 참여하는 과학 기술 기관, 조직, 기업 및 개인은 본 지침 문서의 내용을 적용하는 것이 좋습니다.

협력 정신, 혁신 촉진을 포함하여 책임 있는 AI 시스템 연구 개발을 위한 9가지 원칙이 제안되었습니다. 투명도; 제어 가능성 안전한; 보안; 은둔; 인권과 존엄성에 대한 존중 사용자 지원; 책임

각 원칙에는 구현에 대한 지침이 있습니다. 예를 들어, 투명성과 관련하여 개발자는 AI 시스템의 입력/출력 제어와 관련 분석을 설명하는 능력에 주의를 기울여야 합니다. 따라서 이 원칙을 준수하는 AI 시스템은 일반적으로 사용자 또는 관련 제3자의 생명, 신체, 개인정보 또는 재산에 영향을 미칠 수 있는 시스템입니다.

개발자는 사용자를 포함한 사회의 신뢰를 확보하기 위해 AI 시스템의 입력과 출력을 명확하게 식별하는 능력과 적용된 기술의 특성과 이를 사용하는 방법에 따른 관련 설명 가능성에 주의를 기울여야 합니다.

또는 인권과 존엄성 존중의 원칙에 관해서 말하자면, 인간을 포함하는 AI 시스템을 개발할 때 개발자는 관련된 개인의 인권과 존엄성을 존중하는 데 특별한 주의를 기울여야 합니다.

개발자는 적용 기술의 특성에 따라 가능한 한 AI 시스템을 학습할 때 데이터의 편향(선입견)으로 인해 차별이나 불공정이 발생하지 않도록 조치를 취해야 합니다.

개발자는 베트남의 기본 원칙(애국심, 연대, 자립, 충성심, 정직, 책임, 규율, 창의성 등의 가치)에 따라 AI 시스템이 인간의 가치와 사회 윤리를 위반하지 않도록 예방 조치를 취해야 합니다.

옥스포드 인사이트가 실시한 "정부 AI 준비 지수" 보고서에서 평가 결과와 발표에 따르면, 2023년 베트남은 ASEAN에서 필리핀(싱가포르, 말레이시아, 태국, 인도네시아에 이어)을 제치고 5위에 올랐다. 2023년 베트남의 평균 점수는 54.48점(2022년에는 53.96점, 2021년에는 51.82점)으로 세계 평균을 넘어 193개 국가 및 지역 중 59위를 차지했습니다(2022년에는 181개 국가 및 지역 중 55위).

과학기술부 에 따르면, 현재 상황에서는 AI를 개발하고 활용하는 과정에서 위험을 최소화하고, 관련된 경제적, 윤리적, 법적 요소의 균형을 맞추기 위한 연구와 대책이 필요합니다. 따라서 전문 기관에서는 비록 구속력이 없고 부드러운 규정이라 할지라도 지침을 위한 표준과 가이드라인을 연구하고 개발해야 합니다.

또한, 이해관계자(개발자, 서비스 제공자, 사용자 등) 간에 프로세스와 모범 사례에 대한 정보를 공유하고 교환하면 AI 시스템의 이점을 늘리고 위험을 제어하기 위한 합의도 촉진될 것입니다.

과학기술부는 유네스코, 유엔, 아세안, G7, G20 등의 기관에서 나온 권고안과 다른 국가의 경험을 적극적으로 연구하여 AI 윤리에 대한 권고안, 도구, 규정을 개발하고, 베트남의 현행 관행과 규정에 맞춰 책임 있는 AI 제품(AI 제품의 연구, 설계, 개발, 배포까지)을 개발하고 있습니다.

  과학기술부 부이 더 주이 차관은 또한 베트남에서 책임 있는 AI 연구 및 개발을 위한 가이드라인을 개발할 때는 사람들이 삶과 AI 시스템에서 혜택을 누릴 수 있는 인간 중심 사회의 목표를 밀접하게 따라야 한다고 말했습니다. 동시에 AI 시스템의 이점과 위험 간에 합리적인 균형을 보장합니다. 구체적으로는 연구, 개발 및 혁신 활동을 통해 AI의 이점을 홍보합니다. AI 시스템으로 인해 조직 및 개인의 합법적 권리 또는 이익이 침해될 위험을 최소화합니다.

AI 시스템에 대한 연구 개발 활동이 특정 기술이나 기법을 기반으로 이루어지는 동시에 기술적 중립성을 보장하고 개발자들이 향후 AI 관련 기술의 급속한 발전에 영향을 받지 않도록 보장합니다.

과학기술부는 또한 원칙과 지침을 실제 상황에 맞게 계속 연구하고 업데이트할 것이라고 밝혔습니다.

출처: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html