Jak rozlišit skutečné video od videa vytvořeného umělou inteligencí.

Pokud jste někdy procházeli sociální média, je pravděpodobné, že jste narazili na obrázky nebo videa vytvořená umělou inteligencí. Mnoho lidí se nechalo oklamat, například virálním videem králíků skákajících na trampolíně. Sora – sesterská aplikace ChatGPT vyvinutá společností OpenAI – však posouvá videa s umělou inteligencí na novou úroveň, takže detekce falešného obsahu je stále naléhavější.

Nástroje pro tvorbu videa s umělou inteligencí ztěžují identifikaci skutečných videí více než kdy jindy. (Zdroj: CNET)

Tato aplikace, spuštěná v roce 2024 a nedávno aktualizovaná o Sora 2, má rozhraní podobné TikToku, kde jsou všechna videa generována umělou inteligencí. Funkce „cameo“ umožňuje vkládat skutečné osoby do simulovaných záběrů a vytvářet tak děsivě realistická videa.

Mnoho odborníků se proto obává, že Sora způsobí šíření deepfaků, které zkreslují informace a stírají hranice mezi realitou a falešnými informacemi. Obzvláště zranitelné jsou celebrity, což vede organizace jako SAG-AFTRA k tomu, aby vyzvaly OpenAI k posílení ochrany.

Identifikace obsahu generovaného umělou inteligencí je velkou výzvou pro technologické společnosti, platformy sociálních médií i uživatele. Existují však způsoby, jak rozpoznat videa vytvořená pomocí Sora.

Najít vodoznak Sora

Vodoznak Sora (označený modrou šipkou) je značka, která identifikuje nástroj použitý k vytvoření videa. (Zdroj: CNET)

Každé video vytvořené v aplikaci Sora pro iOS má po stažení vodoznak – bílé logo Sora (ikona mraku) se pohybuje po okrajích videa, podobně jako vodoznak na TikToku.

Toto je vizuální způsob, jak identifikovat obsah generovaný umělou inteligencí. Například model „nano-banánů“ od Googlu Gemini také automaticky přidává k obrázkům vodoznak. Vodoznaky však nejsou vždy spolehlivé. Pokud je vodoznak statický, lze jej snadno oříznout. Dokonce i dynamické vodoznaky, jako je ten od Sory, lze odstranit pomocí specializovaných aplikací.

Když se generálního ředitele OpenAI Sama Altmana na to zeptali, argumentoval tím, že společnost se musí přizpůsobit realitě, že kdokoli může vytvářet falešná videa. Před Sorou neexistoval nástroj, který by byl tak populární, dostupný a nevyžadoval žádné dovednosti k vytváření takových videí. Jeho pohled zdůrazňuje potřebu spoléhat se na alternativní metody ověřování.

Zkontrolovat metadata

Kontrola metadat – klíčový krok k určení, zda video vytvořila umělá inteligence, jako je Sora. (Zdroj: Canto)

Možná si myslíte, že kontrola metadat je příliš složitá, ale ve skutečnosti je to docela jednoduché a velmi efektivní.

Metadata jsou sada informací, které se automaticky připojují k obsahu při jeho vytváření, jako je typ kamery, umístění, čas záznamu a název souboru. Ať už je obsah generován člověkem nebo umělou inteligencí, má metadata. U obsahu generovaného umělou inteligencí metadata často zahrnují informace o zdroji.

OpenAI je členem Koalice pro původ a autenticitu obsahu (C2PA), takže videa Sora budou obsahovat metadata C2PA. Ověřit to můžete pomocí nástroje pro ověřování autenticity obsahu, který je součástí iniciativy:

Jak zkontrolovat metadata:

Navštivte stránky verify.contentauthenticity.org
Nahrajte soubor ke kontrole.
Stiskněte tlačítko „Otevřít“
Informace naleznete v tabulce vpravo.

Pokud bylo video vytvořeno umělou inteligencí, bude to v shrnutí jasně uvedeno. Při kontrole videí Sora uvidíte řádek „publikováno OpenAI“ a informace potvrzující, že video bylo vytvořeno pomocí umělé inteligence. Všechna videa Sora musí tuto informaci obsahovat, aby se ověřil jejich původ.

Pan Quang

Zdroj: https://vtcnews.vn/cach-nhan-biet-video-that-hay-do-ai-tao-ar972891.html