구글: 제미니 AI 소프트웨어가 가짜 테러 콘텐츠를 만드는 데 악용되고 있습니다.

구글은 호주 당국에 보낸 성명에서 지난 1년 동안 자사의 인공지능(AI) 소프트웨어인 제미니(Gemini)를 이용해 가짜 테러 또는 폭력적 극단주의 콘텐츠를 제작한 사례에 대해 전 세계적으로 258건의 불만을 접수했으며, 제미니가 아동 학대 콘텐츠 제작에 악용되고 있다는 사용자 신고도 86건 접수했다고 밝혔습니다.

호주 전자안전위원회(ESSC)는 구글의 보고서가 사용자들이 기술을 악용하여 악의적이고 불법적인 콘텐츠를 제작하는 방법을 세계 최초로 보여주는 자료라고 평가했습니다.

사이버보안위원회 줄리 인먼 그랜트 위원은 이번 사건이 AI 제품을 개발하는 기업들이 유해하고 가짜 콘텐츠가 생성되는 것을 막기 위한 안전장치를 구축하고 그 효과를 테스트하는 것이 얼마나 중요한지를 보여준다고 밝혔습니다.

구글은 새로 업로드된 이미지를 기존 이미지와 대조하는 자동화 시스템인 매칭 기능을 사용하여 제미니가 제작한 아동 학대 콘텐츠를 식별하고 삭제했습니다. 그러나 호주 전자안전위원회는 구글이 제미니가 제작한 테러 또는 폭력적 극단주의 콘텐츠를 삭제할 때는 동일한 시스템을 사용하지 않았다고 밝혔습니다.

현행 호주 법률에 따르면 기술 기업은 전자 보안 위원회에 유해성 감소 노력에 대한 정보를 정기적으로 제공해야 하며, 이를 이행하지 않을 경우 처벌을 받을 수 있습니다.

가장 최근에는 기업들이 2023년 4월부터 2024년 2월까지의 기간에 대한 정보를 이 위원회에 보고해야 했습니다. 호주 전자안전위원회는 텔레그램과 트위터(이후 X로 이름 변경)에 보고상의 미흡함을 이유로 벌금을 부과했습니다.

X는 이미 61만 500 호주 달러(38만 2천 미국 달러)의 벌금에 대해 한 차례 항소했지만, 소셜 미디어 플랫폼 측에서도 다시 항소할 것으로 예상됩니다. 텔레그램 또한 해당 채널에 부과된 벌금에 대해 항소할 계획입니다.

미국 기업 오픈AI가 개발한 '센세이션을 일으킨' 챗봇 챗GPT가 2022년 말 대중의 관심을 사로잡은 이후, 전 세계 규제 기관들은 악의적인 행위자들이 AI를 악용하여 테러를 선동하거나, 사기를 저지르거나, 가짜 음란물을 제작하거나, 기타 불법적인 활동에 가담하지 않도록 보다 효과적인 조치를 마련할 것을 촉구해 왔습니다.

출처: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html