YouTube spouští nástroj „detekce podobnosti“, který chrání obrázky a hlasy před deepfaky.

Šíření deepfake videí stírá hranici mezi skutečným a falešným. Obětí této technologie se může stát kdokoli, od celebrit až po tvůrce obsahu.

Tváří v tvář této realitě se YouTube a mnoho dalších online platforem snaží najít rovnováhu mezi tvůrčí svobodou a kontrolou digitální identity.

YouTube testuje nástroj pro rozpoznávání imitace identity pomocí umělé inteligence

YouTube představil novou funkci s názvem „Detekce podobnosti“, což zhruba znamená rozpoznávání podobnosti obličeje a hlasu. Když tvůrci odhalí videa, která se zdají být falešná, mohou prostřednictvím tohoto nástroje přímo odeslat žádost o ověření.

Systém použije model umělé inteligence k porovnání dat obličeje a hlasu s původním profilem žadatele. Pokud výsledky ukážou vysoký stupeň shody, bude video odesláno k další kontrole moderačnímu oddělení YouTube.

To pomáhá snížit riziko omylem smazaného platného obsahu a zároveň zvyšuje přesnost detekce deepfake.

Na rozdíl od předchozích nástrojů pro hlášení obsahu porušujícího autorská práva nebo autorská práva se nová funkce rozpoznávání zaměřuje na osobní identitu. Osoba, za kterou je vydávána za jinou osobu, nemusí prokazovat vlastnictví obrázku nebo obsahu, stačí potvrdit neoprávněné použití svého obličeje nebo hlasu.

YouTube uvádí, že cílem nástroje je vrátit tvůrcům kontrolu, protože stále více videí používá technologii syntézy obrazu a hlasu, která divákům ztěžuje rozlišení mezi skutečným a falešným videem. Očekává se, že nástroj bude v USA zaváděn postupně a v příštím roce se rozšíří do dalších regionů.

Kroky k řešení vlny deepfakeů

Deepfake se již neomezuje pouze na zábavná videa nebo satiru. Během pouhých několika let byla tato technologie použita k podvodům, politickým účelům a manipulaci s informacemi. Mnoho případů celebrit, u kterých byly v reklamách nebo citlivém obsahu oříznuty obličeje nebo dokonce zfalšovány hlasy, vyvolalo obavy o spolehlivost toho, co vidí online.

Tváří v tvář této vlně se platformy sociálních médií současně snažily reagovat. Meta oznámila plány označovat videa vytvořená umělou inteligencí jako „vygenerovaná umělou inteligencí“, zatímco TikTok přidal do sekce pro hlášení porušení sekci „vygenerovaná umělou inteligencí“, což uživatelům usnadní reakci na objevení falešných videí. Pro YouTube je to krok, který ukazuje jeho proaktivní úsilí vypořádat se s rozsáhlou a nekontrolovatelnou vlnou deepfaků.

Zavedení této funkce také ukazuje, že se YouTube snaží změnit standardy správy obsahu ve věku umělé inteligence. Platforma nejenže zpracovává videa porušující autorská práva, ale také vytváří mechanismus, který dává tvůrcům hlas při ochraně jejich digitální identity.

Někteří mediální experti to vnímají jako znamení, že technologické společnosti začaly přecházet z fáze „adaptace na umělou inteligenci“ k „kontrole dopadu umělé inteligence“.

Zavedení nástrojů pro detekci deepfake však v globálním měřítku není jednoduché. Rozdíly v zákonech na ochranu osobních údajů mezi zeměmi a složitost určování toho, co představuje škodlivý falešný obsah, budou pro YouTube v procesu implementace výzvou.

Hranice mezi kreativitou a cenzurou

Boj proti deepfakes vyvolává otázky ohledně limitů tvorby obsahu. Mnoho tvůrců videí se obává, že nástroje pro automatické rozpoznávání by mohly ovlivnit legitimní produkty založené na umělé inteligenci, jako jsou krátké filmy nebo demonstrační videa. Vzhledem k tomu, že hranice mezi kreativitou a falešnými články se stále více stírá, musí platformy najít způsoby, jak chránit uživatele, aniž by ohrozily tvůrčí svobodu.

YouTube trvá na tom, že nástroj pro rozpoznávání nemá omezovat kreativitu, ale chránit právo na kontrolu osobního obrazu. Odborníci však tvrdí, že určení toho, co je škodlivé a co legitimní tvorba, bude i nadále velkou výzvou.

Závod mezi tvorbou falešných příspěvků a technologií pro jejich detekci bude pravděpodobně pokračovat a nový nástroj YouTube je jen malým krokem ve snaze zachovat realitu ve stále více virtuální době.

ČT THANH

Zdroj: https://tuoitre.vn/youtube-tung-cong-cu-likeness-detection-bao-ve-hinh-anh-va-giong-noi-truoc-deepfake-20251023163915973.htm