AI vormt de toekomst - Deel 2: De uitdagingen die ermee gepaard gaan

Potentieel brengt risico met zich mee

Het valt niet te ontkennen dat kunstmatige intelligentie (AI) steeds meer een krachtig instrument blijkt te zijn om werknemers te ondersteunen en het leven van mensen te vergemakkelijken. Deze technologische producten zijn echter als een "tweesnijdend zwaard" wanneer ze door criminelen worden misbruikt om fraude te plegen en cyberaanvallen uit te voeren.

In de waarschuwingsberichten van het Ministerie van Informatie en Communicatie (Department of Information Security) of de Cyber ​​Security Association werden veel gevallen van fraude met behulp van AI-technologie genoemd. Zo nam mevrouw Nguyen Thanh T, een kantoormedewerker in Hanoi, tijdens een chat met een vriend via Facebook Messenger afscheid en beëindigde het gesprek, maar keerde plotseling terug naar sms, waarin ze vroeg om geld te lenen en geld over te maken naar een bankrekening. Hoewel de naam van de rekening overeenkwam met die van haar vriendin, was mevrouw T. achterdochtig en vroeg ze om een ​​videogesprek ter verificatie. De vriendin stemde onmiddellijk in, maar het gesprek duurde slechts enkele seconden vanwege een "intermitterende netwerkverbinding".

Toen ze het gezicht van haar vriendin in het videogesprek zag, en de stem ook correct klonk, maakte mevrouw T. het geld over. Maar pas nadat de overboeking succesvol was, besefte ze dat ze in de val van de hacker was getrapt.

Niet alleen mevrouw T., maar ook vele andere slachtoffers, vrienden en familieleden, werden op dezelfde manier opgelicht. De bedragen die de boeven hebben buitgemaakt door zich voor te doen als deepfake-tools en -stemmen, lopen op tot tientallen miljoenen dong.

Een ander typisch voorbeeld van het gebruik van AI om activa te kapen is het geval van meneer NTH. Oplichters zetten een valstrik op met instructies om een ​​malwarelink te installeren op een Android-telefoon. Van daaruit namen ze de controle over de telefoon en bankrekeningen over om geld over te maken naar een derde partij. Daarnaast nam de malware ook automatisch contact op met beschikbare contactgegevens en stuurde automatische berichten met het verzoek om geld over te maken.

De heer NTH verklaarde dat de oplichter zich voordeed als een " politieagent ", zijn telefoonnummer belde en vroeg om zijn persoonlijke identificatiegegevens te verifiëren. Omdat hij oud, onbekend met technologie en naïef was, gaf het slachtoffer zijn telefoon aan een derde persoon om hem te vragen de instructies van de oplichter op te volgen, waardoor de kwaadaardige applicatie "DichVuCong.apk" op zijn telefoon werd gedownload en geïnstalleerd.

De heer Tran Nguyen Chung, hoofd van de afdeling Informatiebeveiliging (Informatiebeveiliging), zei: "Naarmate AI-technologie zich ontwikkelt, wordt het moeilijker om echte en nepcontent op internet te detecteren en te onderscheiden. Iedereen kan het doelwit of slachtoffer worden van cyberaanvallen door criminelen die AI-technologie gebruiken. Of iemand slachtoffer wordt, hangt echter af van de mate waarin hij of zij over de nodige kennis en informatie beschikt."

Deze AI-fraude komt niet alleen voor in Vietnam, maar ook in veel andere landen wereldwijd. Momenteel werken instanties, organisaties en grote technologiebedrijven samen om maatregelen en technische oplossingen te vinden om de fraude bij de wortel op te sporen en te voorkomen.

In de huidige periode is de belangrijkste maatregel het promoten van propaganda, het vergroten van het bewustzijn van mensen over methoden, trucs en manieren om deze geavanceerde vorm van vervalsing te herkennen en aan te pakken, om zo de impact van deepfake op cyberactiviteiten te verminderen en te beperken. Het proactief verspreiden van brede waarschuwingen in de massamedia wanneer er nieuwe ontwikkelingen en vormen van fraude zijn.

"Als mensen chantageoproepen met gevoelige afbeeldingen of video's ontvangen, moeten ze kalm blijven en de herkomst van de afbeeldingen en video's zorgvuldig onderzoeken", aldus de heer Tran Nguyen Trung.

Volgens het onderzoeksrapport "Identifying risks to the global economy in 2024" van de University of Economics (UEB) van de Vietnamese Nationale Universiteit in Hanoi, is een van de risico's voor de wereldeconomie het risico in de technologiesector. Het rapport stelt dat, in de context van de snelle opkomst van AI, het managementbeleid de ontwikkeling van AI niet heeft kunnen bijbenen. De desinformatie die AI oplevert, vooral in een jaar met veel verkiezingen zoals dit jaar, heeft wereldwijd veel problemen veroorzaakt op het gebied van veiligheid, politiek, defensie en vrede.

In een gesprek met verslaggevers van de krant Tin Tuc zei viceminister van Wetenschap en Technologie Nguyen Hoang Giang: "De premier heeft Besluit nr. 127/2021 uitgevaardigd over de nationale onderzoeksstrategie, ontwikkeling en toepassing van kunstmatige intelligentie tot 2030. Om dit te implementeren, hebben het ministerie van Wetenschap en Technologie en andere ministeries en afdelingen drastisch en synchroon geïmplementeerd, zoals het ministerie van Justitie dat het juridische aspect onderzoekt. Het ministerie van Informatie en Communicatie dat digitale technologie onderzoekt. Het ministerie van Wetenschap en Technologie heeft ook industrie 4.0 ondersteund, onderzocht en ontwikkeld; onderzoek gedaan naar en toegepaste informatietechnologie-ontwikkeling, ten dienste van de ontwikkeling van digitale en slimme steden. Echter, met de snelle en sterke ontwikkeling zijn ook de negatieve aspecten en risico's van AI aan het licht gekomen wanneer het wordt misbruikt om een ​​instrument te worden voor cybercriminelen voor fraude, imitatie, bedreigingen, toe-eigening van eigendommen, enz.

Tot nu toe zijn het Ministerie van Wetenschap en Technologie en de regering, naast onderzoek, ook actief bezig met het opbouwen van een juridisch kader. Daarbij leren ze van de ervaringen van andere ontwikkelde landen, zodat het AI-veld in Vietnam zijn potentieel kan bevorderen, de ontwikkeling kan bevorderen en strikt kan worden gecontroleerd, en ethiek en menselijkheid op het gebied van kunstmatige intelligentie kan worden gegarandeerd.

De snelle ontwikkeling van AI-tools heeft veel vragen opgeroepen over mensenrechten, ethiek, privacy, informatiebeveiliging en juridische verantwoordelijkheid. Vergeleken met de rest van de wereld bevindt Vietnam zich nog in de beginfase van AI-ontwikkeling. Daarom is er behoefte aan specifieke AI-regelgeving en -beleid die geschikt zijn voor alle aspecten van het leven, de economie en de samenleving in Vietnam.

Dringend juridisch kader uitvaardigen

Het beheersen van de schaduwkant van AI is ook een onderwerp dat in verschillende landen wordt besproken. Het Europees Parlement heeft 's werelds eerste set basisregels voor de regulering van kunstmatige intelligentie goedgekeurd. Veel technologie-experts zijn van mening dat deze set regels de EU zal helpen beide doelen te bereiken: het minimaliseren van de negatieve impact van technologische ontwikkeling op gebruikers en het inhalen van de dominante positie van belangrijke concurrenten op de markt.

Kort daarna nam de Algemene Vergadering van de Verenigde Naties een resolutie aan over kunstmatige intelligentie (AI), waarin wereldwijde steun werd verleend aan internationale inspanningen om ervoor te zorgen dat deze nieuwe technologie alle landen ten goede komt, de mensenrechten respecteert en ‘veilig, beveiligd en betrouwbaar’ is.

De heer Vu Ngoc Son, technisch directeur van National Cyber ​​​​Security Technology Joint Stock Company, zei: "AI is een technologie die menselijke belangen dient en de automatisering van vele verschillende operationele fasen ondersteunt. Het is een krachtig instrument dat voor veel verschillende doeleinden wordt gebruikt, zoals het leveren van vraag- en antwoorddiensten, softwareproductie, enz. AI heeft echter ook een negatieve kant wanneer het in handen valt van kwaadwillenden met als doel frauduleuze inhoud en kwaadaardige codes te creëren om gebruikers aan te vallen. AI is dan ook geen instrument dat specifiek bedoeld is voor het creëren van producten of misdrijven, maar de belangrijke vraag is "hoe AI te gebruiken".

"Ik denk dat sancties en juridische corridors de snelheid van de AI-ontwikkeling niet echt hebben bijgehouden. We zullen tijd nodig hebben om beleid te ontwikkelen en te introduceren om de risico's van AI te beperken wanneer deze voor slechte doeleinden wordt gebruikt, met gevolgen voor de mensenrechten, veiligheid, orde en sociale veiligheid", aldus de heer Vu Ngoc Son.

Dr. Dang Minh Tuan, directeur van het CMC ATI Institute, zei: "Enerzijds moeten we doorgaan met het onderzoeken en ontwikkelen van nieuwe technologieën, het updaten en bestuderen van methoden om AI voor slechte doeleinden te gebruiken. Anderzijds moeten we ook eerlijkheid in de wetenschap en op de werkvloer bevorderen. Daarom moeten er aanpassingen en investeringen komen in de inhoud en specifiek beleid voor deze tool in Vietnam. We kunnen AI-tools met name ook gebruiken om kwaadaardige content en code te detecteren. AI is als een "tweesnijdend zwaard", dat een continu, continu impactproces creëert en voortdurend verbetert met als uiteindelijk doel menselijke belangen te dienen."

Volgens deskundigen is het belangrijk om de ontwikkeling van hightechproducten op verantwoorde wijze te beheren. Als we de technologie niet kunnen reguleren en beheersen, leidt dat tot onvoorspelbare gevolgen, die de economie schade toebrengen en zowel het individu als de samenleving als geheel treffen.

Door specifieke en transparante regelgeving uit te vaardigen, kunnen niet alleen de risico's die AI kan veroorzaken worden voorkomen en geminimaliseerd, maar kan Vietnam ook de aandacht trekken van 's werelds toonaangevende technologiebedrijven en ervoor zorgen dat er meer wordt geïnvesteerd. Dit bevordert de ontwikkeling van de binnenlandse informatietechnologie- en AI-industrie.

Eindartikel: Parallelle ontwikkeling en controle van AI

Bron: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238