Pokaždé, když surfuji po internetu, vidím hloupá vtipná videa vytvořená umělou inteligencí.

(Dan Tri) - Videa s „deviantním“ obsahem vytvořená Veo 3 se často objevují na sociálních sítích.

Všude, kde surfuji, vidím nesmyslný humor od Veo 3.

Uživatelé sociálních médií, zejména TikToku, se v poslední době neustále setkávají s „komickými“ videi vytvořenými nástrojem Veo 3. Přestože je většina z nich zábavná, mnoho obsahu se začalo odchylovat od normy a vyvolávat kontroverze.

„Pokaždé, když otevřu TikTok, vidím vtipná videa se známými motivy, jako třeba stará žena, která nese prase na prodej, protože toho moc snědla a moc spala,“ sdílela Huyen Mai (20 let).

Huyen Mai řekla, že její TikTok je plný „komických“ videí vytvořených Veo 3 (Foto: Screenshot).

Mai sdílela, že podobná videa se objevují čím dál častěji, což ji začíná znepokojovat a myslet si, že tato videa slouží pouze k „nalákání diváků“ a nepřinášejí divákům žádnou hodnotu.

Mai uvedla, že se ve svém zpravodajském kanálu často setkává s negativními nebo urážlivými videi: „Mnoho kanálů na TikToku vytváří videa o fiktivních situacích až po skutečné příběhy, které obsahují obscénní, urážlivé prvky a nepravdivé informace jen proto, aby přilákaly zhlédnutí.“

Série urážlivého a šokujícího obsahu byla vytvořena za účelem „přilákání zhlédnutí“ (Foto: Screenshot).

Stejně jako v případě Huyen Mai, i Hoang Anh (20 let) nedávno vyjádřil svou frustraci. Řekl, že Veo 3 přináší velmi realistický obraz a obsah a mnoho videí je vytvořeno se zajímavým a zábavným obsahem.

Ale po chvíli si všiml, že se postupně častěji objevují videa s tendencí být „negativní“ a „šokující, aby přilákala zhlédnutí“, místo aby se zaměřovala na pozitivní hodnoty.

„Jeden student vstal a zanadával, to bylo jedno z videí vytvořených Veo 3, která jsem nedávno viděl. Říkal jsem si, proč je na sociálních sítích tolik urážlivého obsahu, zvláště v době extrémně důležitých zkoušek,“ svěřil se Hoang Anh.

Na sociálních sítích se často objevuje mnoho videí generovaných umělou inteligencí s nevhodným jazykem a obsahem (Foto: Snímek obrazovky).

Ještě znepokojivější je, že některá videa používají obrázky postav a dětské hlasy k pronesení citlivých a neetických hlášek, ale přesto přitahují tisíce interakcí online komunity.

Kromě toho mnoho uživatelů Veo 3 také vytváří situace, které propagují deviantní chování pod rouškou čistě zábavného obsahu.

Některé aplikace a webové stránky, jako například hazardní hry a sázení, obvykle vytvářejí propagační videa pro diváky a tajně je šíří pod rouškou „zábavních videí“.

Dveře k mnoha důsledkům

Je nepopiratelné, že vývoj nástrojů umělé inteligence pro generování videa, jako je Veo 3, sice přináší velký potenciál do sektoru produkce obsahu v mnoha obchodech a firmách, ale zároveň otevírá „dveře“ vedoucí k virtuálním důsledkům v reálném životě.

To vyvolává otázky typu „Dokážou dospělí nebo děti rozlišit mezi videi generovanými umělou inteligencí?“ a „Jak tato urážlivá videa ovlivní vnímání dětí?“

Logo vietnamské televize vložené do obsahu generovaného umělou inteligencí (Foto: Snímek obrazovky).

Nejen pro zábavní účely mnoho odborníků varuje před potenciálními riziky „deviantního“ obsahu vytvářeného umělou inteligencí. Tyto produkty, když se závratnou rychlostí šíří na sociálních sítích, mohou způsobit, že starší lidé nebo děti pasivně přijímají a snadno se nechají negativně ovlivnit.

Platformy sociálních médií v současné době čelí velké výzvě v oblasti cenzury obsahu, protože jen několika jednoduchými kroky může kdokoli vytvořit sérii videí s deviantním obsahem, a dokonce propagovat urážlivé, zvrácené nebo nezákonné chování.

Nejenže to představuje riziko ohledně obsahu, ale přístup k Veo 3 a jeho používání ve Vietnamu má také mnoho následků. Vzhledem k tomu, že Google tento nástroj na domácím trhu oficiálně nepodporuje, spolu s vysokými poplatky (20 dolarů měsíčně za účet Pro, 250 dolarů měsíčně za účet Ultra), mnoho technologických nadšenců našlo způsoby, jak „překonat bariéru“ pomocí VPN, nákupem volně se pohybujících účtů nebo deklarováním falešných informací.

Mnoho z nich se stalo obětí triků „nahánění kuřat“, jako je například reklama levných účtů Veo 3, která jim umožňuje volné používání s neomezenými funkcemi.

Vietnamské sociální sítě zaplavují příspěvky zvažující koupi levných účtů Veo 3 (Screenshot).

Mnoho podvodníků zneužilo nutnosti přístupu k Veo 3 k podvodům, kdy požadovali od kupujících nejprve převod peněz a poté rychle beze stopy „zmizeli“.

Je pozoruhodné, že někteří lidé dokonce akceptují registraci účtů Veo 3 s použitím zákaznické adresy Gmail za „super zvýhodněnou“ cenu. Ve skutečnosti se však jedná o zneužití mezery v zásadách společnosti Google, což může vést k trvalému uzamčení účtu, což znamená ztrátu přístupu k e-mailům, dokumentům a všem souvisejícím osobním údajům.

Technologie není chybná

Ve skutečnosti žádná platforma umělé inteligence není navržena tak, aby vytvářela negativní obsah nebo podněcovala zneužívání. Všechny důsledky vyplývají z toho, jak lidé nástroj používají, což znamená, že rozhodujícími faktory jsou informovanost a odpovědnost uživatele.

Dr. Nguyen Van Son, přednášející na Fakultě informačních technologií Technické univerzity (Vietnamská národní univerzita v Hanoji ), k tomu uvedl: „Velmi si vážím pozitivních hodnot, které umělá inteligence přináší. Pokud se používá správně, může mít mnoho praktických přínosů pro společnost a komunitu.“

Podle něj však problémy nastávají, když se technologie dostane do rukou lidí s nezdravými motivy. „V té době se umělá inteligence stává účinným nástrojem na podporu negativního chování, a dokonce zesiluje negativní dopady na společnost,“ varoval Dr. Son.

Poté vyzval uživatele, zejména mladé lidi, aby proaktivně zvyšovali své povědomí a zodpovědnost při přístupu k umělé inteligenci a jejím používání s cílem vytvářet kvalitní a civilizovaný obsah namísto šíření brakových a urážlivých produktů.

Dr. Nguyen Van Son se domnívá, že vzdělávání je klíčem k omezení porušování etických pravidel při používání umělé inteligence (Foto: Poskytnuta postava).

Dr. Nguyen Van Son se navíc domnívá, že jednou z dlouhodobých strategií k omezení porušování etických pravidel při používání umělé inteligence je přístup z vzdělávacího hlediska. Podle něj je klíčovým faktorem, který přispívá k formování civilizované digitální komunity, zvyšování povědomí, pomoc uživatelům s pochopením osobní odpovědnosti a budování etického základu při používání technologií.

Mnoho odborníků se nezastavuje pouze u varování před „spamovým“ obsahem, ale opakovaně upozorňuje na potenciální nebezpečí plynoucí z nástrojů generovaných umělou inteligencí, zejména na možnost vytvářet videa, která se mohou stát zdrojem rozsáhlého šíření dezinformací.

„Technologický průmysl se roky potýká s nebezpečím deepfakes. Vznik stále pokročilejších nástrojů pro tvorbu videa s využitím umělé inteligence je však jasným varováním, že regulace obsahu generovaného umělou inteligencí a následně i obytnou umělou inteligencí bude jen obtížnější,“ varoval Connor Leahy, generální ředitel společnosti Conjecture.

Stejný názor sdílí i paní Nguyen Thi Trang – generální ředitelka společnosti Pisa Solutions LLC – která zdůraznila důležitost kritického myšlení v kontextu stále pokročilejší umělé inteligence.

„Nejsme jen uživateli umělé inteligence, ale také příjemci široké škály obsahu generovaného umělou inteligencí. Kromě etického používání nástrojů si každý člověk musí procvičovat schopnost vnímat informace z více perspektiv, protože v současné době existuje mnoho videí vytvořených umělou inteligencí, která se zdají být autentická, ale skrytě propagují falešný obsah,“ uvedla paní Trang.

Zdroj: https://dantri.com.vn/cong-nghe/cu-luot-mang-lai-thay-video-hai-nham-do-ai-tao-ra-20250629181641265.htm