TikTok, AI가 생성한 콘텐츠 자동 인증

로이터 통신에 따르면 틱톡은 5월 9일부터 이미지 생성 및 편집 방식을 나타내는 디지털 워터마크인 "콘텐츠 자격 증명" 기술을 사용할 예정입니다. 이 기능은 소셜 네트워킹 플랫폼이 AI가 생성한 제품을 자동으로 식별하는 데 도움이 될 것입니다.

Adobe는 이 기술을 사용하는 데 있어 선구자였으며 ChatGPT를 만든 회사인 OpenAI를 포함하여 많은 회사에서 이 기술을 점점 더 많이 채택하고 있습니다.

TikTok의 새로운 업데이트는 AI 생성 콘텐츠를 목표로 합니다.

연구원들은 이전에 검증되지 않은 AI 생성 콘텐츠가 허위 정보를 유포하는 데 이용될 수 있다는 우려를 제기해 왔으며, 이는 올해 말 미국 대선을 포함한 전 세계 여러 선거에 영향을 미칠 것으로 예상됩니다. Google과 Meta와 같은 다른 기술 회사들도 이 콘텐츠 검증 기능을 사용할 계획이라고 발표했습니다.

TikTok은 사용자가 내장 도구를 사용할 때 AI가 생성한 콘텐츠에 적극적으로 라벨을 지정해 왔습니다. 최신 업데이트는 TikTok에서 관리하지 않는 당사자가 생성한 콘텐츠에도 적용됩니다.

이 기능이 작동하려면 TikTok과 같은 플랫폼과 AI 콘텐츠 제작 도구가 업계 표준을 준수하고 조율해야 합니다. 사용자가 OpenAI의 이미지 생성 AI 도구인 Dall-E를 사용하면 OpenAI는 생성된 이미지에 유효한 레이블을 붙입니다. 해당 이미지가 TikTok에 업로드되면 자동으로 AI 생성 콘텐츠로 인식됩니다.

TikTok의 운영, 신뢰 및 안전 책임자인 애덤 프레서(Adam Presser)는 5월 9일 ABC 뉴스에 보낸 성명에서 "저희 사용자와 크리에이터들은 AI와 AI가 할 수 있는 일에 큰 기대를 걸고 있으며, 저희는 사람들이 무엇이 사실이고 무엇이 허구인지 구별할 수 있는 능력을 갖추도록 하고 싶습니다."라고 말했습니다.

2023년 9월 TikTok 웹사이트에 게시된 성명에 따르면, 회사는 사용자들에게 AI 제품에 사전에 라벨을 부착해 줄 것을 요청했습니다. 당시 TikTok은 자체 인증 기능도 테스트하고 있었습니다.

출처: https://thanhnien.vn/tiktok-se-tu-dong-xac-thuc-noi-dung-do-ai-tao-ra-185240509200106262.htm