아동 보호를 강화하기 위한 변경 사항.

SGGP 2023년 11월 29일 오전 6시 52분

호주 정부는 유해 콘텐츠로부터 아동과 인터넷 사용자를 보호하는 데 있어 온라인 기업의 의무를 강화하기 위한 몇 가지 제안을 내놓았습니다.

호주는 이번 규정 개정안이 어린이들의 온라인 안전을 지키는 데 도움이 되기를 기대하고 있습니다.

호주 통신부 장관 미셸 롤랜드에 따르면, 이러한 변경안은 정부가 온라인 활동에 참여하는 아동의 안전을 보장하기 위해 충분한 조치를 취하지 않았다는 우려가 제기된 후 제안되었습니다.

롤랜드 여사는 제안된 변경 사항이 알고리즘과 합성 인공지능(AI)을 포괄하는 더 넓은 규제 범위를 허용하여 모든 서비스 설계 시 아동의 최선의 이익이 최우선 순위가 되도록 보장할 것이라고 밝혔습니다.

"우리는 어린이들이 인터넷상의 유해 콘텐츠에 취약하다는 것을 알고 있으며, 서비스 설계 및 배포 과정 전반에 걸쳐 어린이의 최선의 이익을 최우선으로 고려해야 합니다."라고 롤랜드 씨는 설명하며, 어린이들이 접근할 수 있는 콘텐츠를 설계할 때 어린이를 우선시해야 하는 이유를 강조했습니다. 소셜 미디어 제공업체를 포함한 온라인 서비스 제공업체에 대한 개정안 관련 협의는 2024년 2월에 마무리될 예정입니다. 이에 앞서 지난 8월, 호주의 온라인 안전 감시 기관인 eSafety는 기술 및 미디어 산업에 대한 규제 감독을 촉구했습니다.

eSafety에 따르면, 해당 기관은 아동들이 괴롭힘 목적으로 또래의 음란 이미지를 제작하기 위해 컴퓨터를 사용하는 것에 대한 신고를 접수했습니다. eSafety는 서비스 제공업체가 AI가 불법적이거나 유해한 활동을 위한 자료 또는 환경을 조성하는 정도를 사전에 최소화하기 위해 "합리적인 조치"를 취해야 한다고 명시하고 있으며, 여기에는 AI가 생성한 가짜 동영상도 포함됩니다.

eSafety는 이전에도 아동이 성적으로 학대적인 자료나 콘텐츠를 제작하도록 강요받는 것을 막기 위해 아동이 이용하는 웹사이트에 더욱 엄격한 연령 확인 절차가 필요하다고 경고한 바 있습니다. eSafety는 1,300건 이상의 아동 성학대 신고를 분석한 결과, 아동 8명 중 1명이 그러한 콘텐츠를 직접 "제작"했으며, 이는 종종 아동을 성적으로 노골적인 행위를 촬영하거나 사진으로 찍도록 강요하는 가해자에 의해 이루어졌다는 사실을 발견했습니다. 실제로 아동은 온라인 웹사이트에 접속할 때 연령 확인 절차를 쉽게 우회할 수 있습니다.

11월 26일, 미국, 영국을 비롯한 10여 개국이 인공지능(AI) 안전에 관한 국제 협약을 발표했습니다. 미국 관계자들에 따르면, 이는 AI 기술의 안전한 사용을 보장하는 구체적인 방안을 제시하는 최초의 협약이며, 기술 기업들이 설계 단계부터 안전한 AI 시스템을 구축하도록 촉구하는 내용을 담고 있습니다. 이 문서는 AI를 설계하고 사용하는 기업들이 이러한 첨단 기술을 개발하고 배포해야 한다는 데 18개국이 동의했음을 명시하고 있습니다. 이 협약은 법적 구속력이 없으며, AI 오용 감시 및 데이터 보호와 같은 일반적인 권고 사항을 주로 제시합니다.

원천: https://www.sggp.org.vn/thay-doi-de-bao-ve-tre-em-tot-hon-post716112.html