Förhindra att tekniken överskrider etiska gränser.

Den ökande användningen av AI för oetiska syften har skapat ett akut behov av teknikkontroll och ökat användaransvar.

Med sin snabba utvecklingstakt revolutionerar artificiell intelligens (AI) många områden – från sjukvård, utbildning och näringsliv till vardagslivet. Nackdelarna med denna teknik innebär dock betydande utmaningar för att hantera och kontrollera information i cyberrymden.

Översvämmade med falska nyheter genererade av AI.

Falska nyheter som genereras av AI sprids på sociala medieplattformar främst för att få visningar, gilla-markeringar och engagemang för onlineförsäljning eller för att tjäna pengar på plattformen.

De som skapar falska nyheter utnyttjar ofta aktuella händelser som drar till sig allmänhetens uppmärksamhet. Till exempel, efter den allvarliga trafikolyckan den 17 september på Tan Long-marknaden i Lao Bao-kommunen i Quang Tri -provinsen, som resulterade i 12 dödsoffer, dök några hjärtskärande bilder upp på sociala medier och fick många tittare att gråta. Polisen i Lao Bao-kommunen identifierade dessa bilder som skapade av AI och utfärdade en varning om spridningen av dessa vilseledande falska bilder. Detta beteende sprider inte bara falsk information utan hindrar också utredningar.

På liknande sätt utnyttjade många sociala mediekonton den allmänna uppmärksamheten kring kapsejsningen av turistbåten Green Bay 58 i Ha Long Bay, Quang Ninh-provinsen den 19 juli, vilket dödade dussintals människor, och publicerade känslosamma bilder och berättelser om offren. En betydande del av detta innehåll var dock falskt, skapat med hjälp av AI för att manipulera känslor och locka till sig interaktion från användare på sociala medier. Det är värt att notera att den utbredda användningen av falska bilder med överdriven sympati kan ytterligare traumatisera offrens familjer.

Med AI-teknik som ständigt förbättras tar det bara några minuter och enkla kommandon att skapa en video med engagerande innehåll som perfekt matchar användarens avsikter. Bland dessa är nästa generations AI-plattformar som KlingAI, Veo 3 och Sora mycket populära bland användare över hela världen, inklusive i Vietnam.

Dessutom är deepfake-teknik – en kombination av djupinlärning och förfalskningar – också ett stort problem globalt eftersom den kan användas för att skapa bilder, ljud eller videor som ser så verkliga ut att de är mycket svåra att upptäcka som förfalskningar. Som ett resultat har många bedrägerier relaterade till denna teknik inträffat i både Vietnam och runt om i världen.

Generallöjtnant Nguyen Minh Chinh, ständig vice ordförande för National Cybersecurity Association, noterade en växande trend av AI-missbruk för olagliga ändamål. Mer specifikt utnyttjas AI-som-en-tjänst (AI-tillhandahållna verktyg och applikationer) av cyberbrottslingar för att skapa skadlig programvara, förfalska röster, ansikten och text ... för bedrägerier, cyberattacker, intrång i datasystem och till och med för att destabilisera säkerheten och skada organisationers, företags och ledares rykte.

Enligt Tran Ngoc Anh, teknisk chef för Hoa Binh CyberSpace Company Limited (CyPeace), är en av riskerna för AI-användare risken att de får felaktig information som genereras av själva verktyget. Dessutom finns det en mängd andra problem, såsom läckage av konfidentiell information och personuppgifter.

Falska bilder sprids online för att "få tittarna att gråta", vilket ger gilla-markeringar och ökar interaktionen (skärmdump).

Ökat användaransvar

Innan tekniska och juridiska åtgärder införs för att strikt kontrollera utvecklingen och användningen av AI måste användare proaktivt använda tekniken på ett ansvarsfullt sätt.

Cybersäkerhetsexperten Vu Ngoc Son, chef för teknikkommittén vid National Cybersecurity Association, påpekade att det är människor som utnyttjar och använder AI, så både de goda och dåliga aspekterna av AI är nära kopplade till människor. Om användarna är skickliga och tillämpar den för goda syften, kommer tekniken att utnyttja dess styrkor till deras fördel. Omvänt, om AI-användare saknar förståelse eller utnyttjar den för olagliga syften, kan det få allvarliga konsekvenser. "För att använda och utnyttja AI effektivt är det nödvändigt att fokusera på att bygga ett team och processer. AI inser bara sitt värde när den placeras i händerna på dem som vet hur man bemästrar den", sa cybersäkerhetsexperten.

Med tanke på farorna med djupförfalskningsteknik – ett ledande verktyg som underlättar nuvarande cyberbedrägerier – betonade finansministeriet under utarbetandet av lagen om investeringar och näringsliv att verksamheten med djupförfalskningsteknik behöver regleras som en villkorad affärssektor för att förhindra missbruk av teknik som orsakar informationsstörningar och bedrägerier. Enligt finansministeriet är djupförfalskningsteknik för närvarande ett av de nya områdena med komplexa potentiella risker för säkerhet och ordning, men det är inte reglerat som en villkorad affärssektor.

Enligt advokat Tran Anh Tuan (Hanoi Advokatsamfund) kan det bryta mot bestämmelserna i civillagen att använda AI för att skapa innehåll utan tillstånd, särskilt för att skapa falsk, fabricerad eller bedräglig information. Överträdare kan få administrativa påföljder eller ersättning för skador. I fall som får allvarliga konsekvenser kan straffrättsligt ansvar vidtas. "Användare måste vara försiktiga när de får tillgång till och använder AI och absolut undvika alla handlingar som utnyttjar AI för att få visningar eller gilla-markeringar; de bör öka sitt personliga ansvar och följa lagen när de använder AI och deltar i onlinemiljön", rådde advokat Tuan.

Generallöjtnant Nguyen Minh Chinh betonade att kärnelementet i hållbar AI-utveckling är mänskliga resurser. Från forskare, ingenjörer, cybersäkerhetsexperter till chefer och användare behöver alla vara fullt utrustade med kunskap, färdigheter, etik och juridisk medvetenhet. Enligt honom är detta inte bara teamet som bygger och driver AI-system utan också nyckelkraften i att förebygga, upptäcka och bekämpa högteknologiska brott i cyberrymden.

Vietnam kommer att ha en lag om artificiell intelligens.

Vid en nyligen genomförd nationell vetenskaplig konferens om AI konstaterade vetenskaps- och teknikminister Nguyen Manh Hung att AI öppnar upp stora möjligheter men också väcker många frågor kring etik, anställning och socialt förtroende. Därför måste AI-utvecklingen vara snabb, säker och human.

Enligt minister Nguyen Manh Hung ersätter inte AI människor utan tjänar människorna genom att agera som deras assistenter. AI är ett kraftfullt verktyg, men människorna är beslutsfattarna; därför bör AI stödja, inte ersätta, mänskligt tänkande, värderingar och ansvar. "Ministeriet för vetenskap och teknik kommer att utfärda en nationell etisk kod för AI som är harmoniserad med internationella standarder men utformad för att passa vietnamesiska förhållanden, och kommer också att utveckla en AI-lag och en AI-strategi", uppgav minister Nguyen Manh Hung.

Källa: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm