Pas op voor door AI gegenereerde afbeeldingen wanneer de informatiebeveiliging in gevaar is

In het tijdperk van snelle technologische ontwikkeling verspreidt de trend om kunstmatige intelligentie (AI) te gebruiken voor het creëren van afbeeldingen zich op sociale media en trekt de aandacht van veel gebruikers, met name jongeren. Foto's gemaakt met behulp van AI zijn zeer creatief en dienen als entertainment, personaliseren content en geven uitdrukking aan een persoonlijkheid. Achter deze aantrekkingskracht gaan echter potentiële risico's schuil voor de beveiliging en veiligheid van informatie.

Entertainment of potentiële trigger?

Volgens de politie van Hanoi is er de laatste tijd een trend gaande om kunstmatige intelligentie (AI) te gebruiken om afbeeldingen te creëren, wat de aandacht van veel gebruikers trekt. Hoewel deze afbeeldingen voornamelijk voor entertainmentdoeleinden worden gebruikt, brengt de verspreiding ervan veel potentiële risico's met zich mee, die direct van invloed zijn op de informatiebeveiliging en -veiligheid, met name tijdens de 80e verjaardag van de Augustusrevolutie en de nationale feestdag van 2 september.

Momenteel kunnen gebruikers eenvoudig afbeeldingen openen en creëren via AI-software en deze gebruiken als avatars, nieuws en artikelen op sociale netwerken zoals Zalo, TikTok, Facebook, enz. Als gebruikers echter niet opletten, politiek ongevoelig zijn en geen controle hebben over de door AI gegenereerde afbeeldingen, kunnen ze onnauwkeurige afbeeldingen gebruiken, zoals afbeeldingen van een kaart van Vietnam zonder informatie over de Hoang Sa- en Truong Sa-archipels; afbeeldingen die niet geschikt zijn voor Vietnamezen. Het gebruik van deze onnauwkeurige afbeeldingen zal de publieke opinie op internet sterk beïnvloeden en kan een verkeerd beeld scheppen over kwesties rond grenssoevereiniteit, geschiedenis en nationale culturele tradities.

AI maakt afbeelding van Ao Dai met daarop een kaart van Vietnam waarop de Hoang Sa-Truong Sa-archipel ontbreekt. (Foto: Politie van Hanoi)

Een socialmediagebruiker in Hanoi gebruikte AI-software om een foto te maken van een ao dai met een kaart van Vietnam erop en plaatste deze vervolgens op TikTok om te reageren op de trend van "nationale trots". De door AI gecreëerde afbeelding miste echter de Hoang Sa- en Truong Sa-archipels. De post ging snel viraal en werd duizenden keren bekeken en gedeeld, maar kreeg ook heftige reacties van de online community. De autoriteiten zijn tussenbeide gekomen en eisen dat de content wordt verwijderd. Ze waarschuwen tegen het verspreiden van valse informatie met betrekking tot nationale soevereiniteit .

Waarschuwing van de autoriteiten

Volgens de heer Vu Ngoc Son, technisch directeur van Vietnam National Cyber Security Technology Company (NCS), hebben AI en AI-gebaseerde applicaties zich de laatste tijd enorm ontwikkeld op veel gebieden. ChatGPT is een applicatie die gemakkelijk toegankelijk is voor de meeste mensen die geen IT-professional zijn, dus het heeft snel aan populariteit gewonnen.

Qua technologie is ChatGPT geen doorbraak ten opzichte van andere bestaande AI-gebaseerde technologieën, maar qua data is ChatGPT zeer succesvol gebleken, gebaseerd op een enorme hoeveelheid data op diverse gebieden. Hierdoor krijgen gebruikers het gevoel dat ze "alles weten". Dat is ook de aantrekkingskracht van ChatGPT tot nu toe.

Wat betreft beveiliging: ChatGPT is zelf opgericht om een vraag-en-antwoordservice te bieden. Het grootste risico is dus of de content die ChatGPT aan gebruikers beantwoordt, door iemand wordt beheerd of "vergiftigd" om ervoor te zorgen dat ChatGPT valse informatie verstrekt. Momenteel is er geen bewijs dat ChatGPT kan worden aangevallen, omdat de invoergegevens door dit bedrijf door mensen worden beheerd, gescreend en zelfs gelabeld. De bovengenoemde risico's zijn dus beperkt. In de toekomst, wanneer deze service echter verder groeit en de vraag naar aanvullende invoergegevens dramatisch toeneemt, zullen de risico's van gegevenscontrole fabrikanten dwingen om strengere beveiligingsmaatregelen te nemen.

AI-software kan veel voordelen bieden, waaronder de mogelijkheid om aantrekkelijke, creatieve afbeeldingen te maken, maar bij onverantwoord gebruik kan het een "tweesnijdend zwaard" worden. De afdeling Cybersecurity en Preventie van Hightechcriminaliteit van de politie van Hanoi adviseert mensen:

1. Maak en gebruik absoluut geen afbeeldingen van de kaart van Vietnam of afbeeldingen die onjuist zijn, in strijd zijn met wettelijke bepalingen of niet stroken met Vietnamese tradities, gewoonten en cultuur.

2. Deel regelmatig waarschuwingsinformatie met familieleden, vrienden en de gemeenschap om het bewustzijn te vergroten en complotten en trucs van vijandige krachten te voorkomen. Laat personen geen misbruik maken van belangrijke politieke gebeurtenissen in het land om illegale handelingen te plegen.

3. Wees voorzichtig bij het installeren en gebruiken van niet-geverifieerde AI-applicaties om het risico te vermijden dat uw persoonlijke gegevens worden verzameld.

4. Voel je verantwoordelijk voor jezelf en de gemeenschap wanneer je deelneemt aan activiteiten op sociale netwerken.

Overtredingen worden strikt volgens de wettelijke bepalingen behandeld.

Als gebruiker moet ieder individu een duidelijk verantwoordelijkheidsgevoel hebben bij deelname aan cyberspace. Het 'opmerken van trends' mag niet worden ingeruild voor onwetendheid of het onbedoeld ondersteunen van misstanden. De media hebben niet alleen de taak om nieuws te brengen, maar ook om de publieke opinie te beïnvloeden en zo bij te dragen aan de bescherming van de waarheid en nationale waarden.

Reactie (0)