틱톡은 AI가 생성한 콘텐츠를 자동으로 검증할 것입니다.

로이터 통신은 틱톡이 5월 9일부터 이미지 제작 및 편집 방식을 나타내는 디지털 워터마크인 "콘텐츠 자격 증명" 기술을 사용할 예정이라고 보도했습니다. 이 기능은 소셜 미디어 플랫폼이 인공지능(AI)이 생성한 콘텐츠를 자동으로 식별하는 데 도움이 될 것입니다.

어도비는 이 기술을 사용하는 데 있어 선구적인 역할을 했으며, ChatGPT를 개발한 OpenAI를 비롯한 많은 기업들이 이 기술을 점차 도입하고 있습니다.

틱톡의 최신 업데이트는 AI가 생성한 콘텐츠를 겨냥합니다.

이전에는 검증되지 않은 AI 생성 콘텐츠가 허위 정보를 퍼뜨리는 데 악용되어 올해 말 예정된 미국 대선을 포함한 전 세계 여러 선거에 영향을 미칠 수 있다는 우려가 제기되었습니다. 구글과 메타 등 다른 기술 기업들도 이러한 콘텐츠 검증 기능을 활용할 계획을 발표했습니다.

틱톡은 사용자가 앱에 내장된 도구를 사용할 때 AI가 생성한 콘텐츠에 선제적으로 라벨을 붙여왔습니다. 이번 최신 업데이트는 틱톡에서 관리하지 않는 사용자가 제작한 콘텐츠에도 적용됩니다.

이 기능이 제대로 작동하려면 틱톡과 같은 플랫폼과 AI 기반 콘텐츠 제작 도구들이 업계 표준을 준수하고 협력해야 합니다. 예를 들어, 누군가 오픈아이(OpenAI)의 AI 이미지 생성 도구인 Dal-E를 사용하면 오픈아이는 생성된 이미지에 인증 라벨을 부착합니다. 이 이미지가 틱톡에 업로드되면 자동으로 AI 생성 콘텐츠로 인식됩니다.

틱톡의 운영, 신뢰 및 안전 책임자인 아담 프레서는 5월 9일 ABC 뉴스에 "우리 사용자들과 크리에이터들은 AI와 그것이 가져올 가능성에 대해 기대감을 갖고 있습니다. 동시에 우리는 사람들이 사실과 허구를 구별할 수 있도록 보장하고 싶습니다."라고 말했습니다.

2023년 9월 틱톡 웹사이트에 게시된 성명에 따르면, 회사는 사용자들에게 AI 제품에 적극적으로 라벨을 붙여줄 것을 요청했습니다. 또한 당시 틱톡은 자체 검증 기능을 테스트 중이었습니다.

출처: https://thanhnien.vn/tiktok-se-tu-dong-xac-thuc-noi-dung-do-ai-tao-ra-185240509200106262.htm