Proč falešná videa o povodních vytvořená umělou inteligencí dokáží „obejít“ Facebook a TikTok

(NLDO) - Falešná videa vytvořená umělou inteligencí často přitahují velké množství diváků a sdílení, protože apelují na zvědavost a soucit s lidmi v oblastech postižených povodněmi.

Během vleklých povodní v centrálním regionu se na sociálních sítích rozšířilo mnoho falešného obsahu generovaného umělou inteligencí. Obsah těchto videí se zaměřuje především na záběry uvězněných lidí, domů smetených povodní, záchranných akcí..., a dokonce zkresluje situaci a útočí na úřady.

Tato falešná videa přitahují statisíce až miliony zhlédnutí a sdílení, protože vzbuzují soucit a vyvolávají silné emoce, jako například scéna chlapce objímajícího psa na střeše uprostřed moře vody, lidí bojujících v povodni... Mnoho účtů zneužívá soucitu k „přilákání“ interakcí, prodeji produktů nebo podněcování veřejného mínění.

Uživatelé sdílející obrázky neznámého původu způsobují rychlé šíření falešných zpráv a způsobují vážné nedorozumění ohledně skutečné situace.

Je pozoruhodné, že ačkoli se jedná o produkt s umělou inteligencí, při zveřejnění na sociálních sítích není platformou označen jako AI.

Videa generovaná umělou inteligencí zveřejněná na sociálních sítích, ale neoznačená jako generovaná umělou inteligencí

Pan Le Anh Bang, ředitel zákaznických řešení ve společnosti Haravan Technology Joint Stock Company, uvedl, že skutečnost, že mnoho videí je vytvořeno nebo upraveno pomocí umělé inteligence, ale na platformách TikTok a Facebook nezobrazuje označení „vygenerováno umělou inteligencí“, může pramenit ze změn ve způsobu, jakým platformy identifikují a klasifikují obsah.

Podle pana Banga je i v případě, že video je vytvořeno výhradně umělou inteligencí, pravděpodobnost jeho detekce a označení je stále vysoká. U obsahu, který zahrnuje lidskou účast, jako je použití skutečných obrázků a videí a následné spoléhání se na umělou inteligenci při stříhání, úpravě scén nebo vytváření pohybů, je však pro systém obtížné určit hranici mezi „obsahem generovaným umělou inteligencí“ a „obsahem s podporou umělé inteligence“.

Právě tato nejednoznačnost způsobuje, že se mnoho videí s prvky umělé inteligence stále zobrazuje jako normální klipy bez varování.

Podle pana Banga se technologie umělé inteligence v současnosti vyvíjí velmi rychlým tempem, zatímco platformy potřebují čas na aktualizaci algoritmů a vytvoření nových kritérií rozpoznávání.

Zatímco většina obsahu v dnešním digitálním prostředí se podílí na umělé inteligenci, právní koridor se stále zdokonaluje, což značně ztěžuje jeho úplnou kontrolu.

Proto musí být každý uživatel sociální sítě opatrnější při přijímání a sdílení informací, protože neověřené kliknutí může neúmyslně napomoci šíření falešných zpráv.

Studie americké výzkumné firmy HostingAdvice zjistila, že 58 % Američanů ve věku 18–43 let bylo oklamáno obsahem generovaným umělou inteligencí, což zdůrazňuje rostoucí nebezpečí falešných zpráv a narušování důvěry v informace na platformách.

Zdroj: https://nld.com.vn/ly-do-khien-video-bao-lu-gia-duoc-tao-boi-ai-co-the-qua-mat-facebook-tiktok-196251124122152335.htm