남아프리카공화국 정부는 허위 언급이 포함된 문서 스캔들 이후 인공지능에 대한 국가 정책 초안을 검토하기 위해 독립적인 전문가 패널을 구성했습니다.
이는 인공지능 관련 규제 문서가 검증되지 않은 인공지능 생성 콘텐츠를 사용한 것으로 의심되는 드문 사례 중 하나입니다.
지난 4월 대중 의견 수렴을 위해 공개된 이 초안은 남아프리카공화국을 아프리카 인공지능 혁신의 선두주자로 만드는 것을 목표로 합니다.
하지만 News24가 존재하지 않는 수많은 인용과 참고 자료를 발견하자, 남아프리카공화국 디지털통신기술부 (DCDT)는 해당 문서 전체를 철회할 수밖에 없었다.
DCDT 장관 솔리 말라치는 문서 작성 과정에서 "중대한 실수"가 발생했음을 인정했습니다. 그는 이전 내부 감사에서 이 문제를 발견하지 못했다고 밝히며, 참고 자료 작성에 인공지능을 활용한 방식에 투명성이 부족했음을 시인했습니다.
남아프리카공화국 정부는 2026년 11월까지 개정안을 최종 확정하여 내각 승인을 받은 후, 2027년 1월에 대중 의견 수렴을 위해 공개할 예정입니다. 7명의 전문가로 구성된 새로운 검토 위원회는 모든 문서를 검토하고 부정확한 출처를 삭제하거나 대체하는 임무를 맡았습니다.
DCDT의 디지털 혁신 담당 이사인 자넷 모웨인은 개정 과정은 텍스트의 투명성과 학문적 신뢰성을 확보하는 데 중점을 둘 것이라고 밝혔습니다. 그녀는 "전문가 패널이 정부에 제출하기 전에 콘텐츠의 각 부분을 검토할 것"이라고 말했습니다.
이번 사건으로 내부 징계 조치도 이어졌습니다. 관련된 두 명의 공무원은 조사 결과가 나올 때까지 직무 정지 처분을 받았습니다. DCDT(디지털 통신 기술 개발 센터)의 논쿠벨라 조던-디아니 국장은 이번 사건을 "매우 유감스러운 일"이라고 표현하며, 초안을 철회한 것은 기관의 신뢰도를 회복하기 위해 필요한 조치였다고 밝혔습니다.
남아프리카공화국의 스캔들은 인공지능이 공공 정책 결정에 활용되기 시작하면서 발생하는 문제점들을 여실히 보여줍니다. 데이터 생성 도구는 데이터 수집 속도를 높여주지만, 인간의 적절한 검증이 이루어지지 않을 경우 잘못된 정보나 허위 출처를 생성할 위험도 있습니다.
관찰자들은 이번 사건이 전 세계적으로 인공지능 전략을 추진하는 많은 정부에 대한 조기 경고 역할을 한다고 보고 있습니다. 인공지능이 정부 운영에 점점 더 많이 관여하게 됨에 따라 투명성, 데이터 검증 및 책임성에 대한 요구가 매우 중요해질 가능성이 높습니다.
로이터 통신에 따르면
출처: https://hanoimoi.vn/nam-phi-sua-chinh-sach-ai-sau-be-boi-nguon-gia-974314.html
댓글 (0)