인공지능 챗봇이 어린이에게 위험을 초래할 수 있다는 우려가 제기되면서 개발자 규제가 필요해지고 있습니다.

[광고_1]

기시다 후미오 일본 총리는 인공지능(AI) 개발업체들을 규제하는 방안을 주요 7개국(G7)에 제안하겠다고 밝혔다.

이 규칙의 목적은 인공지능이 생성한 이미지와 정보와 알고리즘에 의해 생성되지 않은 정보를 구분할 수 있도록 대중의 인식을 높여 허위 정보의 확산을 방지하는 것입니다.

제안된 가이드라인은 세계 7대 경제국 (G7)의 화상 회의에서 이르면 올가을에 제출될 것으로 예상됩니다.

스냅(Snap Inc.)은 인공지능 챗봇 출시 당시 아동의 데이터 개인정보 보호 위험을 적절하고 정확하게 평가하지 못했다는 혐의를 받고 있습니다.

보고서에 따르면 일본은 인공지능이 생성하는 복잡한 이미지와 정보가 대중을 오도하고 경제 안정을 위협할 수 있다는 점을 우려하고 있다.

한편, 영국 데이터 감독 기관은 인공지능 챗봇이 아동의 개인정보 보호에 위험을 초래할 수 있다고 밝혔는데, 이번 사례는 미국 기술 기업 스냅챗이 개발한 "마이 AI" 챗봇을 지칭하는 것입니다.

당국은 스냅챗이 지난 4월 출시한 AI 챗봇이 아동에게 미칠 수 있는 개인정보 침해 위험을 과소평가했을 가능성이 있다고 밝혔습니다. 정보 감독국(ICO)은 스냅챗이 규제 당국의 우려를 적절히 해소하지 못할 경우, 해당 AI 앱을 전국적으로 금지하는 방안을 검토할 것이라고 밝혔습니다.

"조사 초기 결과에 따르면 스냅은 AI 앱 출시 전 아동 및 기타 사용자의 개인정보 보호 위험을 적절하고 정확하게 평가하지 않은 것으로 나타났습니다."라고 정보위원회(ICO) 관계자는 밝혔습니다.

하지만 규제 기관의 성명은 영국 젊은이들 사이에서 널리 사용되는 메시징 앱인 스냅챗이 데이터 보호법을 위반했다는 것을 의미하는 것은 아닙니다.

스냅은 ICO의 발표를 검토 중이며 사용자 개인정보 보호에 전념하고 있다고 밝혔습니다. 미국 기술 기업인 스냅은 "자사의 AI는 공개되기 전에 엄격한 개인정보 보호 및 법률 검토 과정을 거쳤습니다."라며, "위험 평가 프로세스에 대한 우려 사항을 해결하기 위해 ICO와 건설적으로 협력해 나갈 것입니다."라고 덧붙였습니다.

영국 정보위원회(ICO)는 "My AI"가 영국 내 약 2100만 명의 스냅챗 사용자(13~17세 아동 포함)의 개인 데이터를 어떻게 처리했는지 조사하고 있습니다.

스냅챗이 개발한 이 앱은 오픈AI의 ChatGPT를 기반으로 작동하는데, ChatGPT는 전 세계 정책 입안자들이 개인정보 보호 및 보안 문제 속에서 관리하고자 하는 생성형 AI의 가장 잘 알려진 사례입니다.

스냅챗을 포함한 소셜 미디어 네트워크는 사용자가 13세 이상이어야 한다는 조건을 걸고 있지만, 미성년자의 플랫폼 사용을 완전히 막지는 못하고 있습니다.

앞서 2023년 8월, 로이터 통신은 규제 당국이 해당 메시징 앱이 미성년자 사용자를 플랫폼에서 효과적으로 차단하고 있는지 여부를 판단하기 위해 정보를 수집하고 있다고 보도한 바 있습니다.

(블룸버그, 로이터 보도에 따르면)