Naléhavá potřeba kontrolovat obsah umělé inteligence.

Jen v posledních několika letech se umělá inteligence (AI) vyvíjela a neustále zlepšovala závratným tempem a stala se mocným nástrojem podporujícím mnoho oblastí. Veo3 – technologie pro tvorbu videa s využitím umělé inteligence, kterou nedávno vyvinula společnost Google DeepMind – je schopna vytvářet neuvěřitelně realistické záběry. Kromě uživatelských výhod však tento nástroj představuje také riziko zneužití ze strany zlých aktérů k podvodným účelům.

Je těžké rozlišit mezi pravým a falešným.

Podle technických expertů se Veo3 stal globální senzací díky svým schopnostem tvorby videa s využitím umělé inteligence a může se pochlubit úrovní realismu, která daleko převyšuje dříve dostupné nástroje. Na rozdíl od Sora od OpenAI, která vyniká ve vizuální stránce, ale je omezená ve zvuku, Veo3 bezproblémově synchronizuje obraz, okolní zvuky a dialogy. Od kroků a větru až po mluvená slova a okolní efekty vše plynule splývá a dosahuje úrovně realismu, která uživatelům ztěžuje rozlišování mezi skutečnými videi a těmi, která vytvořila umělá inteligence.

Ve Vietnamu se Veo3 rychle stal senzací na platformách sociálních médií, jako jsou TikTok, Facebook a YouTube Shorts. Četná videa s hashtagem #veo3 byla sdílena rychlostí blesku a přilákala miliony zhlédnutí a stovky tisíc interakcí. Mnoho klipů generovaných umělou inteligencí ohromilo online komunitu svým neuvěřitelným realismem. Například 8sekundové video s jednoduchou replikou dialogu získalo 5 milionů zhlédnutí a přes 308 000 lajků. Další video, vytvořené výhradně umělou inteligencí, ukazující starší ženu smažící vejce, dosáhlo také přes 2,6 milionu zhlédnutí a více než 104 000 lajků.

Pan Tran Vinh Khang, administrativní pracovník v 1. okrese Ho Či Minova Města, se podělil o to, že kvůli jejich extrémnímu realismu sotva rozlišuje mezi skutečnými a falešnými videi. „Viděl jsem video, jak prodavač ryb mluví se zákazníkem na trhu, a myslel jsem si, že je skutečné, protože obraz byl tak ostrý. Způsob, jakým mával, zvedal obočí, sluneční světlo na jeho tváři – všechno bylo tak přirozené, že jsem nemohl uvěřit, že to vytvořila umělá inteligence,“ řekl pan Khang.

Cấp bách kiểm soát nội dung AI - Ảnh 1. — Obrázky ve videu vytvořeném Veo3 je pro uživatele obtížné rozlišit mezi skutečnými a falešnými.

Paní Nguyen Mai Anh (obyvatelka Ho Či Minova Města) vyjádřila svůj obdiv a zároveň vyjádřila obavy ohledně bezpečnosti informací. „Videa vytvořená službou Veo3 jsou tak realistická, že se cítím nesvá. Pokud zlomyslní aktéři použijí tuto technologii k vytváření hanlivých videí, pomluv nebo falšování důkazů, budou důsledky velmi vážné,“ uvedla paní Anh.

Mnoho vietnamských uživatelů se obzvláště zajímá o to, jak přistupovat k Veo3 a jak jej používat. Veo3 však na americkém trhu oficiálně uvedla společnost Google pouze prostřednictvím předplatného Google AI Ultra za cenu 249,99 dolarů měsíčně. Vietnamská online komunita se s tímto omezením potýkala s hledáním způsobů, jak je obejít. Mnoho lidí sdílí tipy, jak používat VPN ke změně své IP adresy na americkou, a tím si zaregistrovat účet Google v podporovaném regionu, aby mohli Veo3 aktivovat a používat jako místní uživatel. Podle bezpečnostních expertů je to také zranitelnost, kterou by mohli zlomyslní aktéři zneužít ke nekalém účelům.

Pro umělou inteligenci je potřeba právní rámec.

Pan Le Hong Duc, zakladatel společnosti OneAds Digital Co., Ltd., uvedl, že produkty generované umělou inteligencí, jako jsou videa, obrázky a hlasy, se blíží ohromující úrovni realismu a lze je dokonce přímo uvést do výroby a komercializace. Tento boom přináší jasné výhody z hlediska nákladů a času, ale lze jej zneužít k šíření dezinformací nebo vyvolání veřejné paniky. V kontextu stále složitějších modelů umělé inteligence se kontrola obsahu stává klíčovou, zejména proto, že technologie daleko předběhla tempo současných právních aktualizací.

Pan Duc proto navrhl naléhavou potřebu vypracovat specializovaný zákon pro umělou inteligenci, který by jasně definoval odpovědnosti těch, kteří vytvářejí a sdílejí obsah s využitím umělé inteligence. Šíření zavádějícího, škodlivého nebo toxického obsahu musí být přísně trestáno. Zároveň musí úřady vydat kritéria omezující obsah, který mohou uživatelé pomocí umělé inteligence vytvářet, a nařídit jasné označování. Nedodržení těchto kritérií bude mít za následek právní odpovědnost a náhradu škody. „Vydání samostatného právního rámce pro umělou inteligenci je nesmírně naléhavé pro kontrolu této rychle se rozvíjející technologie, přispění k udržení zdravého digitálního prostředí a prevenci negativních důsledků, jako jsou podvody, porušování etických zásad nebo urážlivé chování,“ zdůraznil pan Duc.

Kromě právních obav jeden expert na informační bezpečnost uvedl, že rychlý rozvoj Veo3 vyvolává obavy také u tvůrců obsahu, zejména v oblastech, jako je film, televize a animace, které jsou ohroženy postupným nahrazením technologií umělé inteligence, což představuje velkou výzvu pro ochranu profesí a autorských práv v kreativním průmyslu. „Je třeba brzy přidat předpisy týkající se práv duševního vlastnictví k obsahu generovanému umělou inteligencí, protože umělá inteligence nyní dokáže vytvářet vysoce realistické produkty. Jinak tvůrci riskují ztrátu zaměstnání uprostřed vlny virtuálních děl zaplavujících trh,“ uvedl expert.

Pozor na podvodné služby.

Od spuštění Veo3 začalo mnoho účtů na sociálních sítích, které se prohlašují za „experty na umělou inteligenci“, sdílet demo videa, návody, jak se k Veo3 dostat, nebo prodávat účty a podpůrné služby za 200 000–300 000 VND. Někteří uživatelé uvedli, že se jim podařilo přihlásit se k Veo3 a vyzkoušet si ho, ale ne všichni si ho mohli vyzkoušet. Pan Le Hong Duc varoval uživatele, aby si dávali pozor na podvodné nebo neoficiální služby, a doporučil počkat, až Google oficiálně spustí Veo3 na vietnamském trhu, aby se předešlo finančním podvodům, krádeži dat nebo neoprávněnému přístupu k jejich účtům Google.

Zdroj: https://nld.com.vn/cap-bach-kiem-soat-noi-dung-ai-196250607190357821.htm