Var försiktig med AI-genererade bilder när informationssäkerheten är hotad

I en tid av snabb teknisk utveckling sprider sig trenden att använda artificiell intelligens (AI) för att skapa bilder på sociala nätverksplattformar och lockar många användares uppmärksamhet, särskilt unga människor. Foton som skapas med AI är mycket kreativa och tjänar som underhållning, personifierar innehåll och uttrycker personlighet. Bakom denna lockelse finns dock potentiella risker gällande säkerhet och informationssäkerhet.

Underhållning eller potentiell utlösare?

Enligt polisen i Hanoi har det nyligen funnits en trend att använda artificiell intelligens (AI) för att skapa bilder, vilket lockar många användares uppmärksamhet. Även om det främst är för underhållningsändamål, innebär spridningen av dessa bilder många risker som direkt påverkar säkerhet och informationssäkerhet, särskilt under 80-årsdagen av augustirevolutionen och landets nationaldag den 2 september.

För närvarande kan användare enkelt komma åt och skapa bilder via AI-programvara och använda dessa bilder som avatarer, bädda in nyheter och artiklar på sociala nätverk som Zalo, Tiktok, Facebook... Men om användare inte är försiktiga, politiskt okänsliga och inte kontrollerar bilderna som genereras av AI, kan de använda felaktiga bilder, såsom bilder av Vietnams karta som saknar information om Hoang Sa- och Truong Sa-arkipelagerna; bilder som inte är lämpliga för vietnameser. När dessa felaktiga bilder används kommer det att påverka den allmänna opinionen i cyberrymden i hög grad och kan skapa en felaktig uppfattning om frågan om gränssuveränitet samt historia och nationella kulturella traditioner.

AI skapar en bild av en ao dai utskriven med en karta över Vietnam utan Hoang Sa- och Truong Sa-arkipelagerna. (Foto: Hanoi City Police)

En användare av sociala medier i Hanoi använde AI-programvara för att skapa ett foto av en ao dai med en karta över Vietnam tryckt på, och publicerade det sedan på TikTok som ett svar på trenden med "nationell stolthet". Bilden som skapades av AI saknade dock Paracel- och Spratlyöarna. Inlägget blev snabbt viralt och lockade tusentals visningar och delningar, men mötte också stark motreaktion från onlinecommunityn. Myndigheterna ingrep och krävde att innehållet skulle tas bort och varnade för att sprida falsk information relaterad till nationell suveränitet .

Varning från myndigheterna

Enligt Vu Ngoc Son, teknisk chef för Vietnam National Cyber Security Technology Company - NCS, har AI och AI-baserade applikationer utvecklats mycket starkt inom många områden i livet på senare tid. ChatGPT är faktiskt en applikation som är lättillgänglig för de flesta som inte är IT-specialister, så den skapade snabbt en feber.

Teknikmässigt är ChatGPT inte ett genombrott jämfört med andra befintliga AI-baserade teknologier, men datamässigt har ChatGPT varit mycket framgångsrikt när det baseras på en enorm mängd data inom många områden, vilket får användarna att känna att "de vet allt". Det är också det som hittills har lockat ChatGPT.

Säkerhetsmässigt föddes ChatGPT för att utföra fråge- och svarstjänster, så den största risken är om innehållet som ChatGPT svarar användare på kommer att kontrolleras och "förgiftas" av någon för att få ChatGPT att tillhandahålla falsk information. För närvarande finns det inga bevis för att ChatGPT kan attackeras, eftersom indata kontrolleras, granskas och till och med märks av människor av detta företag, så ovanstående risker har begränsats. Men i framtiden, när denna tjänst fortsätter att expandera, ökar behovet av mer indata dramatiskt, och riskerna med datakontroll kommer att kräva att tillverkare har strängare säkerhetsåtgärder.

AI-programvara kan ge många fördelar, inklusive möjligheten att skapa attraktiva, kreativa bilder, men om den används oansvarigt kan den bli ett "tvåeggat svärd". Hanoi City Police, avdelningen för cybersäkerhet och högteknologisk brottsförebyggande, rekommenderar att man:

1. Skapa och använd absolut inte bilder av Vietnams karta eller bilder som är felaktiga, bryter mot lagen eller strider mot vietnamesiska traditioner, seder och kultur.

2. Dela regelbundet varningsinformation med släktingar, vänner och samhället för att öka medvetenheten och förhindra komplotter och trick från fientliga styrkor. Låt inte undersåtar utnyttja större politiska händelser i landet för att begå olagliga handlingar.

3. Var försiktig när du installerar och använder overifierade AI-applikationer för att undvika risken att dina personuppgifter samlas in.

4. Ha en känsla av ansvar gentemot dig själv och gemenskapen när du deltar i aktiviteter på sociala nätverk.

Överträdelser kommer att hanteras strikt i enlighet med lagens bestämmelser.

Som användare behöver varje individ ha en tydlig ansvarskänsla när de deltar i cyberrymden. Att "fånga trender" bör inte bytas mot okunskap eller att oavsiktligt stödja felaktigheter. När det gäller media är uppgiften inte bara att rapportera nyheter utan också att vägleda den allmänna opinionen och bidra till att skydda sanningen och nationella värderingar.

Kommentar (0)