Facebook에서 AI가 생성한 이미지 메타 레이블링

메타(Meta)의 글로벌 담당 사장인 닉 클레그(Nick Clegg)는 메타가 파일에 내장된 마커 세트를 사용할 것이라고 밝혔습니다. 메타는 페이스북, 인스타그램, 스레드(Threads) 서비스에 게시되는 모든 콘텐츠에 라벨을 적용하여, 실제 사진처럼 보일 수 있는 이미지가 실제로는 인공지능이 생성한 디지털 창작물임을 사용자에게 알립니다. 로이터 통신에 따르면 메타는 자체 AI 도구를 사용하여 생성된 콘텐츠에도 라벨을 적용했습니다.

새로운 시스템이 구축되고 운영되면 Meta는 OpenAI, Microsoft, Adobe, Midjourney, Shutterstock, Alphabet의 서비스에서 생성된 이미지에도 동일한 조치를 취할 예정입니다. 이번 발표는 기술 기업들이 단순한 콘텐츠에서 가짜 콘텐츠를 생성할 수 있는 생성 AI의 피해를 완화하기 위해 개발 중인 새로운 표준에 대한 첫 번째 소식입니다.

AI가 생성하는 이미지 라벨링은 잘못된 정보와 사기를 줄이는 데 도움이 됩니다.

이러한 접근 방식은 기업들이 대량 폭력 및 아동 착취 묘사와 같은 플랫폼에서 금지된 콘텐츠를 삭제하기 위해 지난 10년 동안 확립한 패턴을 기반으로 합니다.

클레그는 이 시점에서 기업들이 AI가 생성한 이미지에 안정적으로 레이블을 지정할 수 있을 것으로 믿지만, 더욱 정교한 오디오 및 비디오 콘텐츠 레이블 지정 도구가 아직 개발 중이라고 언급했습니다.

메타는 가까운 미래에 사용자에게 변경된 오디오 및 비디오 콘텐츠에 라벨을 지정하도록 요구하고, 이를 준수하지 않을 경우 페널티를 부과할 예정입니다. 그러나 클레그는 현재 ChatGPT와 같은 AI 도구에서 생성된 텍스트에 라벨을 지정할 수 있는 실질적인 메커니즘이 없다고 밝혔습니다.

Meta의 독립 감독 위원회는 오해의 소지가 있는 편집된 영상에 대한 회사의 정책을 비판하며, 콘텐츠는 삭제하는 대신 라벨을 붙여야 한다고 말했습니다. 따라서 Clegg는 Meta의 새로운 조치가 이러한 콘텐츠를 더 잘 분류하는 데 도움이 될 수 있다고 말했습니다.

소스 링크: https://thanhnien.vn/meta-gan-nhan-hinh-anh-do-ai-tao-ra-tren-facebook-18524020711453543.htm