과학기술부 에 따르면, 세계적인 추세에 따라 인공지능 시스템은 사람과 지역 사회가 직면한 어려운 문제를 지원하고 해결함으로써 사람, 사회, 그리고 베트남 경제에 큰 혜택을 가져다줄 것으로 평가됩니다. 이와 함께 인공지능 개발 및 활용 과정에서 발생하는 위험을 최소화하고, 관련 경제적, 윤리적, 법적 요소들의 균형을 맞추기 위한 연구 및 대책 마련이 필요합니다. 따라서 전문 기관은 비록 구속력이 없고 유연한 규제일지라도, 인공지능의 방향성을 위한 표준과 지침을 연구하고 개발해야 합니다.
과학 기술부는 이 지침에서 인공지능 시스템의 책임 있는 연구 개발을 위한 9가지 원칙을 제시했습니다.
첫째, 협력 정신으로 혁신을 촉진합니다. 개발자는 시스템의 다양성을 고려하여 인공 지능 시스템과 다른 인공 지능 시스템 간의 연결성과 상호 운용성을 고려해야 하며, 위험을 제어하기 위한 조정도 강화해야 합니다.
둘째, 투명성: 이 원칙을 준수하는 AI 시스템은 사용자 또는 관련 제3자의 생명, 신체, 사생활 또는 재산에 영향을 미칠 수 있는 시스템인 경우가 많습니다. 이 경우, 개발자는 시스템의 입력과 출력을 명확하게 식별하고, 적용 기술의 특성과 사용 방식을 기반으로 관련 설명 가능성을 확보하여 사용자를 포함한 사회의 신뢰를 확보하는 데 주의를 기울여야 합니다.
셋째, 제어 가능성: 시스템 제어 가능성과 관련된 위험을 평가하기 위해 개발자는 시스템이 관련 기술 요구 사항 및 표준을 충족하는지 사전 평가를 수행해야 합니다. 위험 평가 방법 중 하나는 시스템을 실제로 적용하기 전에 보안 및 안전 조치가 마련된 별도의 공간에서 테스트하는 것입니다.
넷째, 안전 원칙: 개발자는 인공지능 시스템이 중개자를 포함한 제3자의 생명, 신체 또는 재산에 피해를 입히지 않도록 보장해야 합니다.
다섯째, 보안 원칙: 문서와 지침을 준수하고 규정된 정보 보안 조치를 구현하는 것 외에도 개발자는 시스템의 신뢰성과 물리적 공격이나 사고에 대한 저항성, 기밀성, 무결성, 시스템의 정보 보안과 관련된 필요한 정보의 가용성과 같은 사항에 주의해야 합니다.
6. 개인정보 보호: 개발자는 AI 시스템이 사용자 또는 제3자의 개인정보를 침해하지 않도록 해야 합니다. 개인정보 보호에는 공간적 개인정보 보호(개인정보 보호), 정보 개인정보 보호(개인정보 보호), 그리고 통신 기밀 유지가 포함됩니다. 개발자는 현행 규정과 지침을 적용해야 하며, 개인정보 보호에 관한 국제 표준 및 지침도 참고할 수 있습니다.
개발자는 개인정보보호 위험과 개인정보보호 영향에 대한 사전 평가를 수행해야 합니다. 가능한 한, 시스템 개발 프로세스 전반에 걸쳐 적용되는 기술의 특성에 적합한 조치를 취하여 사용 시 개인정보 침해를 방지해야 합니다.
일곱째, 인권과 존엄성 존중: 인간을 포함하는 인공지능 시스템을 개발할 때, 개발자는 관련된 개인의 인권과 존엄성을 존중하도록 특별히 주의해야 합니다. 적용 기술의 특성에 따라, 개발자는 시스템 학습 시 데이터 편향으로 인한 차별이나 불공정성을 유발하지 않도록 가능한 한 조치를 취해야 합니다.
개발자는 베트남의 기본 원칙(애국심, 단결, 자립, 충성심, 정직, 책임, 규율, 창의성 등의 가치)에 따라 시스템이 인간의 가치와 사회 윤리를 위반하지 않도록 예방 조치를 취해야 합니다.
8. 사용자 지원: 사용자를 지원하기 위해 시스템 개발자는 다음과 같은 사항에 주의를 기울여야 합니다. 사용자가 결정을 내리고 편리하게 사용할 수 있도록 시기적절하고 적절한 정보를 제공하는 기성형 인터페이스를 만드는 것, 사회적 취약 계층(노인, 장애인 등)이 시스템을 보다 쉽게 사용할 수 있도록 하는 조치를 시행하는 것...
9. 책임성: 개발자는 사용자 신뢰를 확보하기 위해 자신이 개발한 시스템에 대해 책임을 져야 합니다. 특히, 사용자가 시스템을 선택하고 사용할 수 있도록 정보를 제공해야 합니다. 또한, 시스템에 대한 사회적 수용도를 높이기 위해 개발자는 더 많은 노력을 기울여야 합니다. 개발자는 자신이 개발한 시스템의 기술적 특성, 알고리즘, 보안 메커니즘 등에 대한 정보와 설명을 사용자에게 제공하고, 이해관계자의 의견과 대화에 귀 기울여야 합니다.
[광고_2]
출처: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html
댓글 (0)