YouTube spouští nástroj „detekce podobnosti“, který chrání obrázky a hlasy před deepfaky.

Šíření deepfake videí stírá hranice mezi realitou a falešným obsahem. Obětí této technologie se může stát kdokoli, od celebrit až po tvůrce obsahu.

Tváří v tvář této realitě se YouTube a mnoho dalších online platforem snaží najít rovnováhu mezi tvůrčí svobodou a kontrolou nad digitální identitou.

YouTube testuje nástroj pro detekci zosobnění s využitím umělé inteligence.

YouTube představil novou funkci s názvem „Detekce podobnosti“, kterou lze přeložit jako identifikaci podobností v rysech obličeje a hlasu. Když tvůrci objeví videa vykazující známky napodobení jejich obrazu nebo hlasu, mohou prostřednictvím tohoto nástroje přímo odeslat žádost o ověření.

Systém použije model umělé inteligence k porovnání dat obličeje a hlasu s původním profilem žadatele. Pokud výsledky ukážou vysoký stupeň shody, bude video odesláno moderačnímu týmu YouTube k dalšímu vyhodnocení.

To pomáhá snížit počet nechtěných smazání legitimního obsahu a zvyšuje přesnost detekce deepfake.

Na rozdíl od předchozích nástrojů pro hlášení porušení autorských práv nebo obsahu porušujícího autorská práva se nová funkce rozpoznávání zaměřuje na osobní identitu. Osoby, které jsou vydávány za jiné osoby, nemusí prokazovat vlastnictví obrázků nebo obsahu; stačí jim potvrdit neoprávněné použití jejich obličeje nebo hlasu.

Podle YouTube je cílem tohoto nástroje vrátit tvůrcům kontrolu v kontextu rostoucího počtu videí využívajících technologii syntézy obrazu a hlasu, která divákům ztěžuje rozlišování mezi skutečným a falešným videem. Očekává se, že nástroj bude postupně zaváděn v USA a v příštím roce se rozšíří do dalších regionů.

Krok podniknutý v boji proti vlně deepfaků.

Deepfakes se již neomezují pouze na zábavná videa nebo satirický obsah. Během pouhých několika let byla tato technologie zneužívána k podvodům, politice a manipulaci s informacemi. Četné případy celebrit, kterým byly v reklamách nebo citlivém obsahu pozměněny tváře nebo hlasy, vyvolaly mezi uživateli obavy o spolehlivost toho, co vidí online.

V reakci na tuto vlnu platformy sociálních médií kolektivně hledají způsoby, jak reagovat. Meta oznámila plány označovat videa vytvořená umělou inteligencí jako „vygenerovaná umělou inteligencí“, zatímco TikTok přidal do sekce pro hlášení porušení možnost „vygenerovaná umělou inteligencí“, což uživatelům usnadňuje hlášení falešných videí. Pro YouTube je to proaktivní krok v řešení rozšířené a obtížně kontrolovatelné vlny deepfaků.

Zavedení této funkce také ukazuje snahu YouTube předefinovat standardy moderování obsahu ve věku umělé inteligence. Platforma nejenže zvládá videa porušující autorská práva, ale také vytváří mechanismy, které tvůrcům dávají hlas při ochraně jejich digitální identity.

Někteří mediální experti to vnímají jako znamení, že technologické společnosti se začaly přesouvat od „adaptace na umělou inteligenci“ k „kontrole dopadu umělé inteligence“.

Aplikace nástrojů pro detekci deepfake však v globálním měřítku není jednoduchá. Rozdíly v zákonech na ochranu osobních údajů mezi zeměmi a složitost identifikace škodlivého falešného obsahu budou výzvami, kterým bude YouTube během implementace čelit.

Hranice mezi kreativitou a cenzurou

Boj proti deepfakes vyvolává otázky ohledně limitů tvorby obsahu. Mnoho producentů videí se obává, že automatizované detekční nástroje by mohly ovlivnit legitimní produkty poháněné umělou inteligencí, jako jsou krátké filmy nebo ilustrovaná videa. Vzhledem k tomu, že se hranice mezi kreativitou a padělkem stírá, musí platformy najít způsoby, jak chránit uživatele, aniž by byla ohrožena tvůrčí svoboda.

YouTube tvrdí, že jeho identifikační nástroj nemá za cíl omezovat kreativitu, ale chránit právo jednotlivců kontrolovat své vlastní obrázky. Odborníci se však domnívají, že určení, která videa jsou škodlivá a která legitimní výtvory, bude i nadále velkou výzvou.

Závod mezi technologiemi pro vytváření padělků a technologiemi pro jejich detekci bude pravděpodobně pokračovat a nový nástroj YouTube je jen malým krokem ve snaze zachovat autenticitu ve stále více virtuální době.

ČT THANH

Zdroj: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm