Varför falska översvämningsvideor skapade av AI kan "kringgå" Facebook och TikTok

(NLDO) – Falska videor skapade av AI lockar ofta ett stort antal tittare och delningar, eftersom de väcker nyfikenhet och sympati för människor i översvämningsdrabbade områden.

Under de långvariga översvämningarna i den centrala regionen har mycket falskt AI-genererat innehåll spridits på sociala medier. Innehållet i dessa videor fokuserar främst på bilder av instängda människor, hus som svepts bort av översvämningen, räddningsinsatser... och till och med på att förvränga situationen och attackera myndigheterna.

Dessa falska videor lockar hundratusentals till miljontals visningar och delningar eftersom de vädjar till sympati och framkallar starka känslor, som scenen med en pojke som kramar en hund på ett tak mitt i ett vattenhav, människor som kämpar i översvämningen... Många konton utnyttjar sympati för att "locka till sig" interaktioner, sälja produkter eller väcka opinion.

Användare som delar bilder av okänt ursprung gör att falska nyheter sprids snabbt och orsakar allvarliga missförstånd om den verkliga situationen.

Det är värt att notera att även om detta är en AI-produkt, så är den inte märkt som AI av plattformen när den publiceras på sociala nätverk.

AI-genererade videor publicerade på sociala medier men inte märkta som genererade av AI

Le Anh Bang, chef för kundlösningar på Haravan Technology Joint Stock Company, sa att det faktum att många videor skapas eller interageras med AI men inte visar etiketten "AI-genererad" på TikTok- och Facebook-plattformar kan bero på förändringar i hur plattformar identifierar och klassificerar innehåll.

Enligt Bang är risken att en video helt och hållet upptäcks och märks fortfarande hög. Men med innehåll som involverar mänskligt deltagande, som att använda riktiga bilder och videor och sedan förlita sig på AI för att klippa, redigera scener eller skapa rörelser, har systemet svårt att avgöra gränsen mellan "AI-genererat innehåll" och "AI-assisterat innehåll".

Det är denna tvetydighet som gör att många videor med AI-element fortfarande visas som vanliga klipp, utan förvarning.

Enligt Bang utvecklas AI-tekniken för närvarande i mycket snabb takt, medan plattformar behöver tid för att uppdatera algoritmer och bygga nya igenkänningskriterier.

Medan det mesta av innehållet i den digitala miljön idag använder AI, så håller den juridiska korridoren fortfarande på att finslipas, vilket gör fullständig kontroll mycket svår.

Därför måste varje användare av sociala nätverk vara mer försiktig med att ta emot och dela information, eftersom ett overifierat klick oavsiktligt kan bidra till spridningen av falska nyheter.

En studie från det amerikanska forskningsföretaget HostingAdvice fann att 58 % av amerikaner i åldern 18–43 har blivit lurade av AI-genererat innehåll, vilket belyser de växande farorna med falska nyheter och urholkningen av förtroendet för information på plattformar.

Källa: https://nld.com.vn/ly-do-khien-video-bao-lu-gia-duoc-tao-boi-ai-co-the-qua-mat-facebook-tiktok-196251124122152335.htm