좋은 AI 생성 비디오를 인식하는 방법

Sora AI를 사용하면 누구나 매우 사실적인 가짜 영상을 만들 수 있기 때문에, 무엇이 진짜이고 무엇이 가짜(딥페이크)인지 아는 것은 디지털 시대의 생존 기술이 됩니다.

소셜 미디어를 스크롤해 본 적이 있다면 AI가 생성한 이미지나 비디오를 본 적이 있을 것입니다. 트램펄린에서 뛰어노는 토끼의 바이럴 영상처럼 많은 사람들이 속았습니다. 하지만 OpenAI가 개발한 ChatGPT의 자매 앱인 Sora는 AI 비디오의 수준을 한 단계 끌어올려 가짜 콘텐츠를 적발하는 것이 필수적이 되도록 만들고 있습니다.

AI 비디오 도구로 인해 실제 상황을 구분하기가 그 어느 때보다 어려워졌습니다. (출처: CNET)

2024년에 출시되어 최근 소라 2로 업데이트된 이 앱은 틱톡과 유사한 인터페이스를 갖추고 있으며, 모든 영상은 AI가 생성합니다. "카메오" 기능을 사용하면 시뮬레이션 영상에 실제 사람을 삽입하여 너무나 사실적이어서 소름이 돋는 영상을 만들 수 있습니다.

결과적으로 많은 전문가들은 소라가 딥페이크를 유포하여 혼란을 야기하고 진짜와 가짜의 경계를 모호하게 만들 것을 우려하고 있습니다. 특히 유명인은 취약하며, SAG-AFTRA와 같은 단체들은 OpenAI에 보호 강화를 촉구하고 있습니다.

AI 콘텐츠를 식별하는 것은 기술 기업, 소셜 네트워크, 그리고 사용자 모두에게 큰 과제입니다. 하지만 Sora로 제작된 동영상을 인식하는 방법은 있습니다.

소라 워터마크 찾기

소라 워터마크(안쪽을 가리키는 녹색 화살표)는 비디오를 만든 도구를 식별하는 표시입니다. (출처: CNET)

Sora iOS 앱에서 만든 모든 비디오는 다운로드 시 워터마크가 생깁니다. TikTok의 워터마크와 비슷하게 비디오 가장자리를 따라 움직이는 흰색 Sora 로고(구름 아이콘)입니다.

이는 AI가 생성한 콘텐츠를 인식하는 직관적인 방법입니다. 예를 들어, 구글의 제미니 "나노 바나나" 모델도 이미지에 자동으로 워터마크를 표시합니다. 하지만 워터마크가 항상 신뢰할 수 있는 것은 아닙니다. 워터마크가 고정되어 있으면 쉽게 잘라낼 수 있습니다. 소라처럼 동적인 워터마크도 전용 앱을 사용하여 제거할 수 있습니다.

이에 대한 질문에 OpenAI CEO 샘 알트만은 사회가 누구나 가짜 영상을 만들 수 있다는 사실에 적응해야 한다고 말했습니다. 소라 이전에는 널리 이용 가능하고 접근성이 뛰어나며 특별한 기술이 필요하지 않은 그런 도구가 없었습니다. 그의 견해는 다른 검증 방법에 의존해야 한다는 것을 시사합니다.

메타데이터 확인

메타데이터 확인 - 소라와 같은 AI가 영상을 생성했는지 판단하는 핵심 단계입니다. (출처: Canto)

메타데이터를 확인하는 것은 너무 복잡하다고 생각할 수도 있지만, 실제로는 매우 간단하고 효과적입니다.

메타데이터는 카메라 종류, 위치, 촬영 시간, 파일 이름 등 콘텐츠 생성 시 자동으로 추가되는 정보 집합입니다. 사람이 생성한 콘텐츠든 AI가 생성한 콘텐츠든 메타데이터는 포함됩니다. AI 콘텐츠의 경우, 메타데이터는 종종 출처를 증명하는 정보와 함께 제공됩니다.

OpenAI는 콘텐츠 출처 및 인증 연합(C2PA)의 회원이므로 Sora 비디오에는 C2PA 메타데이터가 포함됩니다. 콘텐츠 인증 이니셔티브(CAI)의 검증 도구를 사용하여 확인할 수 있습니다.

메타데이터를 확인하는 방법:

• verify.contentauthenticity.org를 방문하세요
• 검사할 파일을 업로드하세요
• "열기"를 클릭하세요
• 오른쪽 표에서 정보를 확인하세요.

동영상이 AI로 생성된 경우 요약에 해당 내용이 표시됩니다. Sora 동영상을 확인하면 "OpenAI에서 게시됨"이라는 문구와 동영상이 AI로 생성되었음을 확인하는 정보가 표시됩니다. 모든 Sora 동영상은 출처를 확인하기 위해 이 정보를 포함해야 합니다.

광 씨

출처: https://vtcnews.vn/cach-nhan-biet-video-that-hay-do-ai-tao-ar972891.html