Voorkom dat technologie ethische grenzen overschrijdt.

Het toenemende gebruik van AI voor onethische doeleinden heeft geleid tot een dringende behoefte aan technologiecontrole en een grotere verantwoordelijkheid van gebruikers.

Kunstmatige intelligentie (AI) ontwikkelt zich razendsnel en brengt een revolutie teweeg in vele sectoren – van de gezondheidszorg, het onderwijs en het bedrijfsleven tot het dagelijks leven. De nadelen van deze technologie vormen echter aanzienlijke uitdagingen voor het beheren en controleren van informatie in de digitale wereld.

Overspoeld met nepnieuws gegenereerd door AI.

Nepnieuws, gegenereerd door AI, wordt verspreid via sociale mediaplatformen, voornamelijk om weergaven, likes en interactie te genereren voor online verkoop of om winst te maken via het platform.

Degenen die nepnieuws verspreiden, spelen vaak in op actuele gebeurtenissen die de aandacht van het publiek trekken. Zo verschenen er na het ernstige verkeersongeluk op 17 september bij de Tan Long-markt in de gemeente Lao Bao, provincie Quang Tri , waarbij twaalf mensen om het leven kwamen, hartverscheurende beelden op sociale media die veel kijkers tot tranen toe bewogen. De politie van de gemeente Lao Bao identificeerde deze beelden als door AI gegenereerd en waarschuwde voor de verspreiding van deze misleidende nepbeelden. Dit gedrag verspreidt niet alleen valse informatie, maar belemmert ook het onderzoek.

Op vergelijkbare wijze profiteerden veel sociale media van de publieke aandacht rond het kapseizen van de toeristenboot Green Bay 58 in de baai van Ha Long, provincie Quang Ninh, op 19 juli, waarbij tientallen mensen om het leven kwamen. Veel accounts plaatsten emotionele beelden en verhalen over de slachtoffers. Een aanzienlijk deel van deze content was echter nep en met behulp van AI gecreëerd om emoties te manipuleren en interactie van socialemediagebruikers uit te lokken. Het wijdverspreide gebruik van nepbeelden met overdreven medeleven kan de families van de slachtoffers verder traumatiseren.

Dankzij de voortdurende verbetering van AI-technologie is het nu mogelijk om in slechts enkele minuten en met simpele commando's een video te maken met boeiende content die perfect aansluit bij de wensen van de gebruiker. Geavanceerde AI-platformen zoals KlingAI, Veo 3 en Sora zijn wereldwijd, ook in Vietnam, zeer populair.

Daarnaast is deepfake-technologie – een combinatie van deep learning en vervalsing – wereldwijd een grote zorg, omdat hiermee beelden, geluiden of video's kunnen worden gecreëerd die er zo realistisch uitzien dat ze moeilijk als nep te herkennen zijn. Dit heeft ertoe geleid dat er zowel in Vietnam als wereldwijd talloze oplichtingspraktijken met deze technologie hebben plaatsgevonden.

Luitenant-generaal Nguyen Minh Chinh, permanent vicevoorzitter van de Nationale Vereniging voor Cyberbeveiliging, constateerde een groeiende trend van misbruik van AI voor illegale doeleinden. Met name AI-as-a-Service (door AI geleverde tools en applicaties) wordt door cybercriminelen misbruikt om malware te creëren, stemmen, gezichten en tekst te vervalsen... voor fraude, cyberaanvallen, inbraak in datasystemen en zelfs om de beveiliging te destabiliseren en de reputatie van organisaties, bedrijven en leiders te schaden.

Volgens de heer Tran Ngoc Anh, technisch directeur van Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), is een van de risico's voor AI-gebruikers de mogelijkheid dat ze misinformatie ontvangen die door de tool zelf wordt gegenereerd. Daarnaast zijn er tal van andere problemen, zoals het lekken van vertrouwelijke informatie en persoonsgegevens.

Er worden online nepafbeeldingen verspreid om kijkers aan het huilen te maken, waardoor likes worden gegenereerd en de interactie toeneemt (screenshot).

Het vergroten van de verantwoordelijkheid van de gebruiker

Voordat er technologische en wettelijke maatregelen zijn om de ontwikkeling en het gebruik van AI strikt te reguleren, moeten gebruikers deze technologie proactief en verantwoord gebruiken.

Cybersecurity-expert Vu Ngoc Son, hoofd van de technologiecommissie van de Nationale Vereniging voor Cybersecurity, benadrukte dat mensen degenen zijn die AI gebruiken en benutten, waardoor zowel de goede als de slechte kanten van AI nauw verbonden zijn met de mens. Als gebruikers bekwaam zijn en de technologie voor goede doeleinden inzetten, zal de technologie haar sterke punten in hun voordeel benutten. Omgekeerd, als AI-gebruikers onvoldoende kennis hebben of de technologie voor illegale doeleinden misbruiken, kan dit ernstige gevolgen hebben. "Om AI effectief te gebruiken en te benutten, is het noodzakelijk om te focussen op het opbouwen van een team en processen. AI realiseert zijn waarde pas echt wanneer het in handen is van mensen die weten hoe ze het moeten beheersen", aldus de cybersecurity-expert.

Gezien de gevaren van deepfake-technologie – een belangrijk instrument voor hedendaagse cyberfraude – benadrukte het Ministerie van Financiën tijdens het opstellen van de Wet op Investeringen en Bedrijven dat de deepfake-sector gereguleerd moet worden als een sector met voorwaardelijke regelgeving. Dit om misbruik van de technologie, dat leidt tot verstoring van de informatievoorziening en fraude, te voorkomen. Volgens het Ministerie van Financiën is de deepfake-sector momenteel een van de nieuwe sectoren met complexe potentiële risico's voor de veiligheid en de openbare orde, maar wordt deze nog niet gereguleerd als een sector met voorwaardelijke regelgeving.

Volgens advocaat Tran Anh Tuan (Hanoi Bar Association) kan het gebruik van AI voor het creëren van content zonder toestemming, met name voor het verspreiden van valse, verzonnen of frauduleuze informatie, in strijd zijn met de bepalingen van het Burgerlijk Wetboek. Overtreders kunnen administratieve sancties of schadevergoedingen opgelegd krijgen. In gevallen met ernstige gevolgen kan strafrechtelijke vervolging volgen. "Gebruikers moeten voorzichtig zijn bij het gebruik van AI en absoluut elke vorm van misbruik van AI om meer views of likes te genereren vermijden. Ze moeten hun eigen verantwoordelijkheid nemen en de wet naleven bij het gebruik van AI en hun deelname aan online activiteiten," adviseerde advocaat Tuan.

Luitenant-generaal Nguyen Minh Chinh benadrukte dat menselijk kapitaal de kern vormt van duurzame AI-ontwikkeling. Van onderzoekers, ingenieurs en cybersecurity-experts tot managers en gebruikers: iedereen moet beschikken over de juiste kennis, vaardigheden, ethische principes en juridisch inzicht. Volgens hem is dit niet alleen het team dat AI-systemen bouwt en beheert, maar ook de belangrijkste kracht achter het voorkomen, opsporen en bestrijden van hightech-criminaliteit in cyberspace.

Vietnam krijgt een wet over kunstmatige intelligentie.

Tijdens een recente nationale wetenschappelijke conferentie over AI verklaarde minister van Wetenschap en Technologie Nguyen Manh Hung dat AI grote kansen biedt, maar ook veel vraagstukken oproept op het gebied van ethiek, werkgelegenheid en maatschappelijk vertrouwen. Daarom moet de ontwikkeling van AI snel, veilig en humaan verlopen.

Volgens minister Nguyen Manh Hung vervangt AI de mens niet, maar dient deze juist als assistent. AI is een krachtig instrument, maar het zijn de mensen die de beslissingen nemen; daarom moet AI het menselijk denken, de menselijke waarden en verantwoordelijkheden ondersteunen en niet vervangen. "Het Ministerie van Wetenschap en Technologie zal een nationale gedragscode voor AI opstellen die is afgestemd op internationale normen, maar is ontworpen om aan te sluiten bij de Vietnamese realiteit. Daarnaast zal het ministerie een AI-wetgeving en een AI-strategie ontwikkelen", aldus minister Nguyen Manh Hung.

Bron: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm