Voorkomen dat technologie ethische grenzen overschrijdt

Het steeds wijdverbreidere gebruik van AI voor onethische doeleinden leidt tot een dringende vraag naar technologische controle en meer verantwoordelijkheid van de gebruiker.

Met zijn snelle verbetering zorgt kunstmatige intelligentie (AI) voor een "revolutie" in veel sectoren - van gezondheidszorg, onderwijs , bedrijfsleven... tot het dagelijks leven. De negatieve aspecten van deze technologie vormen echter aanzienlijke uitdagingen voor het beheer en de controle van informatie in cyberspace.

Overspoeld met door AI gegenereerd nepnieuws

Door AI gegenereerd nepnieuws wordt op socialemediaplatformen verspreid, vooral om views en likes te genereren, interacties te vergroten en zo online te verkopen of om winst te maken op het platform.

Mensen die nepnieuws creëren, "volgen" vaak actuele thema's die de publieke opinie aangaan. Zo verschenen er na een ernstig verkeersongeval op 17 september op de Tan Long-markt in de gemeente Lao Bao, provincie Quang Tri , waarbij twaalf mensen gewond raakten en omkwamen, een aantal hartverscheurende beelden op sociale media, die bij veel kijkers tot tranen toe roerden. De politie van de gemeente Lao Bao stelde vast dat deze beelden door kunstmatige intelligentie (AI) waren gemaakt en waarschuwde voor het verspreiden van nepbeelden die tot misverstanden leiden. Deze actie zorgt er niet alleen voor dat er valse informatie wordt verspreid, maar beïnvloedt ook het onderzoek.

Op dezelfde manier maakten veel socialemedia-accounts gebruik van de publieke aandacht voor de omgeslagen toeristenboot Blue Bay 58 in Halongbaai, provincie Quang Ninh, op 19 juli, waarbij tientallen mensen omkwamen. Veel van deze berichten waren echter nep, gecreëerd met behulp van kunstmatige intelligentie (AI) om de emoties van socialemediagebruikers te 'raken' en interacties aan te trekken. De wijdverspreide nepbeelden met overdreven sympathieke inhoud zouden met name de families van de slachtoffers nog meer emotioneel trauma kunnen bezorgen.

Dankzij de dagelijkse verbetering van AI-technologie kost het slechts enkele minuten om met eenvoudige opdrachten een video te maken met aantrekkelijke content die perfect aansluit bij de intentie van de gebruiker. Vooral nieuwe generatie AI-platformen zoals KlingAI, Veo 3, Sora... zijn erg populair bij gebruikers wereldwijd, ook in Vietnam.

Bovendien heeft deepfake-technologie – een combinatie van deep learning en nepnieuws – wereldwijd voor grote bezorgdheid gezorgd, omdat het gebruikt kan worden om realistische afbeeldingen, geluiden of video's te creëren die zeer moeilijk als nep te detecteren zijn. Als gevolg hiervan heeft zich in Vietnam en de rest van de wereld een reeks oplichtingspraktijken voorgedaan die verband houden met deze technologie.

Luitenant-generaal Nguyen Minh Chinh, permanent vicevoorzitter van de National Cyber ​​Security Association, merkte op dat er een trend is om AI te misbruiken voor illegale doeleinden. Met name AI-as-a-Service (diensten die AI-tools en -applicaties leveren - PV) wordt door cybercriminelen misbruikt om schadelijke code, nepstemmen, gezichten en sms-berichten te creëren... om fraude te plegen, netwerken aan te vallen, datasystemen te infiltreren, zelfs beveiligingsinstabiliteit te veroorzaken en de reputatie van organisaties, bedrijven en leiders te vernietigen.

Volgens de heer Tran Ngoc Anh, technisch directeur van Cyber ​​​​Peace Company Limited (CyPeace), is een van de risico's voor AI-gebruikers dat ze valse informatie ontvangen die door deze tool zelf is gegenereerd. Daarnaast zijn er nog een aantal andere problemen, zoals de openbaarmaking van vertrouwelijke informatie, persoonsgegevens...

Er worden nepbeelden op internet verspreid om kijkers tot tranen toe te bewegen, om zo likes te genereren en de interactie te vergroten (schermafbeelding)

Vergroot de verantwoordelijkheid van de gebruiker

Voordat er technologische en juridische maatregelen zijn om de ontwikkeling en het gebruik van AI strikt te controleren, moeten gebruikers deze technologie proactief en verantwoord gebruiken.

Cybersecurity-expert Vu Ngoc Son, hoofd van de afdeling Technologie van de National Cybersecurity Association, wees erop dat mensen degenen zijn die AI uitbuiten en gebruiken, dus de goede en slechte kanten van AI zijn nauw verbonden met mensen. Als gebruikers gekwalificeerd zijn en AI voor goede doeleinden toepassen, zal de technologie haar voordelen ten goede komen. Als AI-gebruikers daarentegen onvoldoende kennis hebben of AI voor illegale doeleinden misbruiken, kan dit ernstige gevolgen hebben. "Om AI effectief te gebruiken en te benutten, is het noodzakelijk om te focussen op het opbouwen van teams en processen. AI bevordert haar waarde alleen wanneer het in handen is van degenen die weten hoe ze het moeten beheersen", aldus de cybersecurity-expert.

Met het gevaar van deepfake - momenteel het meest gebruikte middel voor technologische fraude - benadrukte het Ministerie van Financiën bij het opstellen van de Wet op investeringen en bedrijven ook het volgende: Deepfake-technologiebedrijven moeten worden gereguleerd als een voorwaardelijke bedrijfstak om misbruik van de technologie te voorkomen dat leidt tot verstoring van informatie, fraude... Volgens het Ministerie van Financiën is deepfake-technologie momenteel een van de nieuwe sectoren die complexe risico's voor de veiligheid en orde met zich meebrengt, maar die niet als een voorwaardelijke bedrijfstak wordt gereguleerd.

Volgens advocaat Tran Anh Tuan (Orde van Advocaten van Hanoi) kan het gebruik van AI om zonder toestemming content te creëren, met name het creëren van valse, neppe of frauduleuze informatie, een schending van de bepalingen van het Burgerlijk Wetboek betekenen. Overtreders kunnen dan administratieve sancties of schadevergoedingen krijgen. Bij ernstige gevolgen kan strafrechtelijke vervolging volgen. "Gebruikers moeten voorzichtig zijn bij het benaderen en gebruiken van AI, absoluut vermijden om AI te misbruiken om views en likes te genereren; hun persoonlijke verantwoordelijkheid vergroten en zich aan de wet houden bij het gebruik van AI en bij deelname aan de online omgeving", adviseerde advocaat Tuan.

Luitenant-generaal Nguyen Minh Chinh benadrukte dat de kernfactor in duurzame AI-ontwikkeling de menselijke hulpbronnen zijn. Van onderzoekers, ingenieurs en cybersecurity-experts tot managers en gebruikers: iedereen moet volledig zijn uitgerust met kennis, vaardigheden, ethiek en juridisch bewustzijn. Volgens de heer Chinh is dit niet alleen het team dat AI-systemen bouwt en beheert, maar ook de belangrijkste kracht in het voorkomen, opsporen en bestrijden van hightechcriminaliteit in cyberspace.

Vietnam krijgt een wet over kunstmatige intelligentie

Tijdens een recente nationale wetenschappelijke conferentie over AI stelde minister van Wetenschap en Technologie Nguyen Manh Hung dat AI grote kansen biedt, maar ook veel vragen oproept over ethiek, werkgelegenheid en maatschappelijk vertrouwen. Daarom moet AI snel, veilig en humaan worden ontwikkeld.

Volgens minister Nguyen Manh Hung vervangt AI de mens niet, maar dient het de mens, is het een assistent van de mens. AI is een krachtig instrument, maar de mens is degene die de beslissingen neemt. Laat AI dus het menselijk denken, de waarden en verantwoordelijkheden ondersteunen en niet vervangen. "Het ministerie van Wetenschap en Technologie zal een nationale AI-ethische code uitvaardigen die in overeenstemming is met internationale normen, maar die is afgestemd op de Vietnamese praktijk, en tegelijkertijd een AI-wet en AI-strategie ontwikkelen", aldus minister Nguyen Manh Hung.

Bron: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm