Naléhavá potřeba kontroly obsahu umělé inteligence

Je třeba vydat kritéria pro omezení obsahu, který mohou uživatelé vytvářet pomocí umělé inteligence, a vynutit si jasné označování.

Jen v posledních několika letech se umělá inteligence (AI) vyvíjela a neustále zlepšovala závratnou rychlostí a stala se nástrojem podpory v mnoha oblastech. Veo3 – technologie pro tvorbu videa s využitím umělé inteligence, kterou nedávno vyvinula společnost Google DeepMind – je schopna vytvářet realistické záběry. Kromě nástrojů podporujících uživatele představuje tento nástroj také riziko zneužití ze strany pachatelů k podvodům.

Těžké rozlišit mezi pravým a falešným

Podle technologického světa Veo3 „způsobil rozruch“ po celém světě díky své funkci tvorby videa s využitím umělé inteligence s úrovní realismu, která překonává jakýkoli předchozí nástroj. Na rozdíl od Sora od OpenAI – která vyniká pouze obrazem, ale je omezená zvukem – Veo3 dokonale synchronizuje obraz, zvuky prostředí a dialogy. Od kroků a foukání větru až po lidské hlasy a okolní efekty, vše je plynule kombinováno a dosahuje úrovně realističnosti, takže je pro uživatele obtížné rozlišit mezi skutečnými videi a těmi, která vytvořila umělá inteligence.

Ve Vietnamu Veo3 rychle vyvolala horečku na sociálních sítích, jako je TikTok, Facebook a YouTube Shorts. Série videí s hashtagem #veo3 byla sdílena závratnou rychlostí a přilákala miliony zhlédnutí a statisíce interakcí. Mnoho klipů vytvořených umělou inteligencí překvapilo online komunitu svou neuvěřitelnou úrovní autenticity. Například 8sekundové video s jednoduchým dialogem dosáhlo 5 milionů zhlédnutí a více než 308 000 lajků. Další video zachycující starší ženu smažící vejce, vytvořené výhradně umělou inteligencí, dosáhlo také více než 2,6 milionu zhlédnutí a více než 104 000 lajků.

Pan Tran Vinh Khang – úředník v 1. okrese Ho Či Minova Města – se podělil o to, že sotva dokázal rozlišit mezi skutečným a falešným, protože úroveň realismu byla příliš vysoká. „Viděl jsem video prodavače ryb, jak mluví se zákazníky na trhu, a myslel jsem si, že je skutečné, protože obraz byl tak ostrý. Způsob, jakým mával rukou, zvedal obočí, sluneční světlo svítilo do jeho tváře, všechno bylo tak přirozené, že bylo neuvěřitelné, že to bylo vytvořeno umělou inteligencí,“ řekl pan Khang.

Na obrázcích ve filmu vytvořeném Veo3 je pro uživatele obtížné rozlišit mezi skutečnými a falešnými.

Přestože paní Nguyen Mai Anh (žijící v Ho Či Minově Městě) přiznala, že na ni udělala dojem, vyjádřila obavy ohledně bezpečnosti informací. „Video vytvořené službou Veo3 je tak realistické, že se kvůli němu cítím nejistě. Pokud by zločinci tuto technologii použili k vytváření videí, která by je pomlouvala, očerňovala nebo falšovala důkazy, následky by byly velmi vážné,“ uvedla paní Anh.

Mnoho vietnamských uživatelů se obzvláště zajímá o to, jak přistupovat k Veo3 a jak ho používat. Veo3 však na americkém trhu oficiálně nasadila společnost Google pouze prostřednictvím předplatného Google AI Ultra za poplatek 249,99 USD/měsíc. Vietnamská online komunita se tomuto omezení vyhnula a našla způsob, jak „překonat bariéru“. Mnoho lidí sdílí tipy, jak pomocí VPN změnit IP adresu na americkou, a poté si zaregistrovat účet Google v podporovaném regionu, aby si Veo3 aktivovali a používali jako místní uživatel. Podle bezpečnostních expertů je to také mezera v legislativě, kterou mohou zločinci zneužít k páchání podvodů.

Právní rámec potřebný pro umělou inteligenci

Pan Le Hong Duc, zakladatel společnosti OneAds Digital Company Limited, uvedl, že produkty generované umělou inteligencí, jako jsou videa, obrázky nebo hlasy, se blíží ohromující úrovni realismu a lze je dokonce přímo uvést do výroby a komercializace. Tato exploze přináší jasné výhody z hlediska nákladů a času, ale lze ji zneužít k šíření falešných informací nebo k vyvolání veřejného zmatku. V kontextu stále složitějších modelů umělé inteligence se kontrola obsahu stává naléhavou, zejména když technologie daleko předběhla rychlost aktualizace stávajících zákonů.

Pan Duc proto navrhl, že je naléhavě nutné vypracovat specializovaný zákon pro umělou inteligenci, který jasně definuje odpovědnosti těch, kteří vytvářejí a sdílejí obsah s využitím umělé inteligence. Šíření falešného a toxického obsahu musí být sankcionováno a přísně řešeno. Zároveň musí úřady vydat kritéria pro omezení obsahu, který mohou uživatelé pomocí umělé inteligence vytvářet, a vyžadovat jasné označení. Pokud nebude správně implementován, musí uživatelé nést právní odpovědnost a nahradit veškeré způsobené škody. „Vydání samostatného právního rámce pro umělou inteligenci je nesmírně naléhavé pro kontrolu této rychle se rozvíjející technologie, přispění k udržení zdravého digitálního prostředí a prevenci důsledků, jako jsou podvody, porušování etických zásad nebo urážky ostatních,“ zdůraznil pan Duc.

Kromě právních obav se expert na informační bezpečnost podělil o to, že vynikající vývoj Veo3 vyvolává obavy také u tvůrců obsahu, zejména v oblastech, jako je film, televize a animace, které jsou ohroženy postupným nahrazením technologií umělé inteligence, což představuje velkou výzvu pro ochranu kariéry a autorských práv v kreativním průmyslu. „Je nutné brzy přidat předpisy o právech duševního vlastnictví pro obsah generovaný umělou inteligencí, protože umělá inteligence je nyní schopna vytvářet vysoce realistické produkty. Jinak budou tvůrci čelit riziku ztráty zaměstnání kvůli vlně virtuálních děl zaplavujících trh,“ uvedl expert.

Pozor na služby, které se vydávají za inzerované

Od exploze Veo3 na sociálních sítích začalo mnoho účtů, které se prohlašují za „experty na umělou inteligenci“, sdílet demo videa, pokyny k přístupu k Veo3 nebo prodávat účty a podpůrné služby za ceny od 200 000 do 300 000 VND. Někteří uživatelé uvedli, že si k Veo3 úspěšně přistoupili a vyzkoušeli si ho, ale ne každý si ho mohl vyzkoušet. Pan Le Hong Duc varoval uživatele, aby si byli opatrní s falešnými nebo neoficiálními službami, a doporučil počkat, až Google oficiálně nasadí Veo3 na vietnamský trh, aby se předešlo finančním podvodům, krádeži dat nebo převzetí kontroly nad účty Google.

Zdroj: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm