Vær forsiktig med AI-genererte bilder når informasjonssikkerheten er truet

I en tid med rask teknologisk utvikling sprer trenden med å bruke kunstig intelligens (KI) til å lage bilder seg på sosiale nettverksplattformer, noe som tiltrekker seg oppmerksomheten til mange brukere, spesielt unge mennesker. Bilder laget med KI er svært kreative, tjener som underholdning, personliggjør innhold og uttrykker personlighet. Bak denne tiltrekningen ligger imidlertid potensielle risikoer knyttet til sikkerhet og informasjonssikkerhet.

Underholdning eller potensiell trigger?

Ifølge politiet i Hanoi har det nylig vært en trend å bruke kunstig intelligens (KI) til å lage bilder, noe som har tiltrukket seg oppmerksomheten til mange brukere. Selv om det hovedsakelig er til underholdningsformål, utgjør spredningen av disse bildene mange risikoer, som direkte påvirker sikkerhet og informasjonssikkerhet, spesielt under 80-årsjubileet for augustrevolusjonen og landets nasjonaldag 2. september.

For tiden kan brukere enkelt få tilgang til og lage bilder gjennom AI-programvare og bruke disse bildene som avatarer, legge inn nyheter og artikler på sosiale nettverk som Zalo, Tiktok, Facebook... Men hvis brukerne ikke er forsiktige, politisk ufølsomme og ikke kontrollerer bildene generert av AI, kan de bruke unøyaktige bilder, for eksempel bilder av Vietnams kart som mangler informasjon om Hoang Sa- og Truong Sa-øygruppene; bilder som ikke er egnet for vietnamesere. Når man bruker disse unøyaktige bildene, vil det påvirke opinionen i cyberspace i stor grad og kan danne en falsk oppfatning av spørsmålet om grensesuverenitet samt historie og nasjonale kulturelle tradisjoner.

AI lager et bilde av en ao dai trykt med et kart over Vietnam uten Hoang Sa- og Truong Sa-øygruppene. (Foto: Hanoi bypoliti)

En bruker av sosiale medier i Hanoi brukte AI-programvare til å lage et bilde av en ao dai med et kart over Vietnam trykt på, og la det deretter ut på TikTok som svar på trenden med «nasjonal stolthet». Bildet som AI laget manglet imidlertid Paracel- og Spratlyøyene. Innlegget gikk raskt viralt og tiltrakk seg tusenvis av visninger og delinger, men møtte også sterk kritikk fra nettsamfunnet. Myndighetene grep inn og krevde at innholdet ble fjernet og advarte mot å spre falsk informasjon knyttet til nasjonal suverenitet .

Advarsel fra myndighetene

Ifølge Vu Ngoc Son, teknisk direktør i Vietnam National Cyber Security Technology Company - NCS, har AI og AI-baserte applikasjoner i den senere tid utviklet seg veldig sterkt på mange områder av livet. ChatGPT er faktisk en applikasjon som er lett tilgjengelig for folk flest som ikke er IT-spesialister, så den skapte raskt feber.

Teknologisk sett er ikke ChatGPT et gjennombrudd sammenlignet med andre eksisterende AI-baserte teknologier, men datamessig har ChatGPT vært svært vellykket når den er basert på en enorm mengde data på mange felt, noe som får brukerne til å føle at «de vet alt». Det er også det som er tiltrekningskraften til ChatGPT frem til nå.

Når det gjelder sikkerhet, ble ChatGPT selv skapt for å utføre spørsmål-og-svar-tjenester, så den største risikoen vil være om innholdet som ChatGPT svarer brukerne på vil bli kontrollert og "forgiftet" av noen for å få ChatGPT til å gi falsk informasjon? For øyeblikket finnes det ingen bevis for at ChatGPT kan angripes, fordi inndataene kontrolleres, screenes og til og med merkes av mennesker av dette selskapet, så risikoene ovenfor har vært begrenset. Men i fremtiden, når denne tjenesten fortsetter å utvide seg, øker behovet for mer inndata dramatisk, og risikoen for datakontroll vil kreve at produsenter har strengere sikkerhetstiltak.

AI-programvare kan gi mange fordeler, inkludert muligheten til å lage attraktive, kreative bilder, men hvis den brukes uansvarlig, kan den bli et «tvevd sverd». Hanoi bypoliti anbefaler følgende:

1. Det er absolutt ikke tillatt å lage og bruke bilder av Vietnams kart eller bilder som er feil, bryter med loven eller er i strid med vietnamesiske tradisjoner, skikker og kultur.

2. Del regelmessig varslingsinformasjon med slektninger, venner og lokalsamfunnet for å øke bevisstheten og forhindre komplotter og triks fra fiendtlige styrker. Ikke la undersåtter utnytte store politiske hendelser i landet til å begå ulovlige handlinger.

3. Vær forsiktig når du installerer og bruker ubekreftede AI-applikasjoner for å unngå risikoen for at personopplysningene dine samles inn.

4. Ha en følelse av ansvar overfor deg selv og samfunnet når du deltar i aktiviteter på sosiale nettverk.

Brudd vil bli håndtert strengt i henhold til lovens bestemmelser.

Som bruker må hver enkelt ha en klar ansvarsfølelse når de deltar i cyberspace. Å «fange trender» bør ikke byttes mot uvitenhet eller utilsiktet støtte til urettmessige handlinger. Når det gjelder media, er oppgaven ikke bare å rapportere nyheter, men også å orientere opinionen, og bidra til å beskytte sannheten og nasjonale verdier.

Kommentar (0)