AI 챗봇, 어린이에게 위험, 개발자 규제 촉구

[광고_1]

일본의 기시다 후미오 총리 는 G7 그룹에 인공지능(AI) 개발자를 규제하는 계획을 제안할 것이라고 밝혔습니다.

이 규칙의 목적은 AI가 생성한 이미지와 정보와 알고리즘이 생성하지 않은 이미지와 정보를 구별하도록 대중의 인식을 높여 잘못된 정보의 확산을 방지하는 것입니다.

이 지침은 빠르면 이번 가을에 세계 7대 경제국 (G7)의 가상 회의에서 제안될 것으로 예상됩니다.

스냅(Snap Inc.)은 AI 챗봇을 출시하면서 어린이의 데이터 개인정보 보호 위험을 적절하고 정확하게 평가하지 못했다는 비난을 받았습니다.

보고서는 일본이 AI가 생성하는 복잡한 이미지와 정보에 대해 우려하고 있으며, 이는 대중을 혼란스럽게 하고 경제적 안정을 위협할 수 있다고 밝혔다.

한편, 영국 데이터 감시 기관은 AI 챗봇이 어린이의 개인 정보 보호에 위험을 초래할 수 있다고 밝혔는데, 이번 사례는 미국의 기술 회사 스냅챗이 개발한 "My AI" 챗봇입니다.

당국은 스냅챗이 4월에 출시한 AI 챗봇으로 인해 어린이의 개인정보 보호 위험이 적절하게 평가되지 않았을 수 있다고 밝혔습니다. 정보위원회 사무국(ICO)은 미국 기업이 규제 기관의 우려에 적절히 대처하지 못할 경우, 전국적으로 AI 애플리케이션을 금지하는 것을 고려할 것이라고 밝혔습니다.

ICO는 "초기 조사 결과에 따르면 Snap은 AI 애플리케이션을 출시하기 전에 어린이와 다른 사용자의 개인정보 보호 위험을 적절하고 정확하게 평가하지 못한 것으로 드러났습니다."라고 밝혔습니다.

그러나 규제 기관의 성명은 영국의 젊은이들에게 널리 사용되는 메시징 앱인 스냅챗이 데이터 보호법을 위반했다는 것을 의미하지는 않습니다.

스냅은 ICO 발표를 검토 중이며 사용자 개인 정보 보호에 최선을 다하고 있다고 밝혔습니다. 미국의 기술 회사는 "저희의 AI는 대중에 공개되기 전에 엄격한 개인정보 보호 및 법적 검토 절차를 거칩니다."라고 밝혔습니다. "우리는 ICO와 협력하여 위험 평가 프로세스에 대한 우려 사항을 해소하기 위해 계속해서 건설적으로 노력할 것입니다."

ICO는 "My AI"가 13~17세 어린이를 포함한 영국 내 약 2,100만 명의 스냅챗 사용자의 개인 데이터를 처리하는 방식을 조사하고 있습니다.

스냅챗이 개발한 이 앱은 OpenAI의 ChatGPT를 기반으로 합니다. ChatGPT는 전 세계 정책 입안자들이 개인정보 보호 및 안전 문제로 인해 규제를 모색하고 있는 생성 AI의 가장 유명한 사례입니다.

스냅챗을 포함한 소셜 미디어 네트워크는 사용자 연령을 13세 이상으로 제한하고 있지만, 미성년자의 플랫폼 사용을 막는 데 항상 성공한 것은 아닙니다.

앞서 2023년 8월, 로이터는 규제 당국이 메시징 앱이 플랫폼에서 미성년 사용자를 효과적으로 제거하고 있는지 확인하기 위해 정보를 수집하고 있다고 보도했습니다.

(블룸버그, 로이터에 따르면)