Upprördhet över användningen av AI för att fånga interaktioner från tågavslag i Quang Ninh

(Dan Tri) – En serie artiklar som använder både innehåll och bilder genererade av AI baserat på fartygets kapsejsning i Quang Ninh har fått många att missta den för riktiga nyheter.

Utnyttjar tragedi för att locka åsikter

Den kapsejsade turistbåten Blue Bay 58 (QN-7105) i Ha Long-bukten på eftermiddagen den 19 juli, där 35 personer omkom och fyra saknades, har chockerat den allmänna opinionen.

Medan myndigheter och offrets familj försöker söka efter och övervinna konsekvenserna, har vissa konton och fansidor på sociala nätverk utnyttjat tragedin för att "locka till sig åsikter", vilket orsakat upprördhet i samhället.

Green Bay-fartyget bärgades av myndigheterna (Foto: Minh Khoi).

Omedelbart efter olyckan uttryckte många inlägg på sociala medier djupa kondoleanser. Vissa fansidor, vanligtvis MCO-fansidan, utnyttjade dock händelsen för att skapa sensationellt innehåll och locka till interaktioner.

Denna fanpage använder regelbundet artificiell intelligens (AI) för att skapa illustrationer till fiktiva, dramatiska berättelser relaterade till skeppsbrottet.

Klockan 22:30 den 20 juli hade MCO:s fansida publicerat fler än 10 artiklar med nyckelord som "fartyg sjunker" och "Ha Long Bay". Innehållet i artiklarna återgav tragiska berättelser som beskrev katastrofen och ögonblicken av liv och död i skrämmande detalj, vilket gjorde att läsarna lätt misstog dessa för sanna berättelser.

För att hålla läsarna engagerade innehåller dessa artiklar ofta vaga berättelser och ber läsarna att klicka på länkar i kommentarsfältet för att fortsätta läsa. När de klickar omdirigeras användarna till en webbplats med "Goda nyheter" och ett flertal annonser som täcker skärmen.

En serie AI-genererade bilder som publiceras på MCO:s fansida kan lätt orsaka missförstånd relaterade till skeppsvraket i Quang Ninh (Foto: Skärmdump).

Det är värt att nämna att även om artiklarna har liten text som säger "Dessa är fiktiva detaljer" eller "Bilderna är endast i illustrativt syfte", kan många användare av sociala medier fortfarande inte skilja mellan sanning och lögn, och lämnar kommentarer som sörjer karaktärerna i berättelsen och felaktigt tror att de var offer för det verkliga skeppsbrottet.

Artikeln lockade ett stort antal interaktioner tack vare en falsk berättelse, som använde AI för att skapa illustrationer (Foto: Skärmdump).

Länkar för att fortsätta läsa artikeln i kommentarsfältet kan potentiellt utgöra många risker för användare (Foto: Skärmdump).

Många lämnade kommentarer som sörjde de olyckliga offren utan att veta att detta var en fiktiv berättelse skapad av AI (Foto: Skärmdump).

Upprördhet över profitverksamhet

Många användare av sociala medier har uttryckt sin ilska och frustration över handlingen att tjäna pengar på andras smärta. De anser att det är oacceptabelt att skapa tomt innehåll och attrahera åsikter baserade på tragedier.

Vissa personliga konton publicerade till och med videor skapade med AI, som simulerade scenen med ett sjunkande skepp och offer som faller i havet, med bildtexten "Rekonstruerar platsen för en turistbåtsolycka i Quang Ninh", vilket orsakade stora missförstånd och upprördhet.

Många är upprörda över AI-innehållet om fartygets kapsejsande i Ha Long (Foto: Skärmdump).

Denna händelse väcker återigen larm om de skenande falska nyheterna och AI-genererat innehållet på sociala medier.

Med den snabba utvecklingen av AI-verktyg blir falska bilder och videor alltmer realistiska, vilket gör det svårt för användare att skilja mellan äkta och falska.

För att undvika att hjälpa skurkar att utnyttja förtroende för personlig vinning måste användare av sociala nätverk utrusta sig med effektiva "informationsfilter".

Var alltid försiktig, kontrollera källan och verifiera innehållets äkthet innan du litar på det eller delar det. Ökad medvetenhet är oerhört nödvändig i den rådande kaotiska informationsmiljön.

Källa: https://dantri.com.vn/cong-nghe/phan-no-hanh-vi-su-dung-ai-cau-tuong-tac-tu-vu-lat-tau-o-quang-ninh-20250721071757153.htm