AI formar framtiden - Del 2: Utmaningarna som följer med det

[annons_1]

Potential kommer med risk

Det är obestridligt att artificiell intelligens (AI) i allt högre grad visar sig vara ett kraftfullt verktyg för att stödja arbetstagare och underlätta mänskligt liv. Dessa tekniska produkter är dock som ett "tvåeggat svärd" när de utnyttjas av skurkar för att begå bedrägerier och attacker i cyberrymden.

I varningsmeddelanden från avdelningen för informationssäkerhet ( ministeriet för information och kommunikation ) eller Cybersäkerhetsföreningen nämndes många registrerade fall av bedrägerier med AI-teknik. Till exempel, Ms. Nguyen Thanh T - en kontorsarbetare i Hanoi - chattade med en vän via Facebook Messenger. Vännen sa adjö och avslutade samtalet, men återgick plötsligt till sms:et och bad om att låna pengar och att överföra pengar till ett bankkonto. Trots att kontonamnet matchade vännens namn blev Ms. T misstänksam och begärde ett videosamtal för att verifiera. Vännen gick omedelbart med på det, men samtalet varade bara i några sekunder på grund av "intermittent nätverk".

När Ms. T såg sin väns ansikte i videosamtalet , och även rösten stämde, överförde hon pengarna. Men först efter att överföringen lyckats insåg hon att hon hade fallit i hackarens fälla.

Inte bara Ms. T, utan även många andra offer, vänner och släktingar, blev lurade på samma sätt. Summan pengar som skurkarna lurade genom att utge sig för att använda Deep Fake-verktyg och röster har nått tiotals miljoner dong.

Ett annat typiskt exempel på hur AI används för att tillägna sig tillgångar är fallet med Mr. NTH, där bedragare, när de använde en Android-telefon, satte upp en fälla med instruktioner för att installera en länk till skadlig programvara. Därifrån tog de kontroll över telefonen och bankkontona för att överföra pengar till en tredje part. Dessutom kontaktade skadlig programvara automatiskt tillgänglig kontaktinformation och skickade automatiska meddelanden som bad om pengaöverföringar.

Herr NTH sa att bedragaren påstod sig vara en " polis ", ringde hans telefonnummer och bad att få verifiera sin personliga identifieringsinformation. Eftersom han var gammal, obekant med teknik och lättlurad, lämnade offret över sin telefon till en tredje person för att be honom följa bedragarens instruktioner, och laddade därmed ner och installerade den skadliga applikationen "DichVuCong.apk" på hans telefon.

Tran Nguyen Chung, chef för avdelningen för informationssystemsäkerhet (informationssäkerhetsavdelningen), sa: När AI-tekniken utvecklas kommer det att bli svårare att upptäcka och skilja mellan verkligt och falskt innehåll i cyberrymden, och vem som helst kan bli ett mål, ett offer för cyberattacker från brottslingar som använder AI-teknik. Huruvida man blir ett offer eller inte beror dock på hur mycket varje person utrustas med nödvändig kunskap och information.

Denna situation med AI-teknikbedrägerier förekommer inte bara i Vietnam utan även i många länder runt om i världen. För närvarande arbetar myndigheter, organisationer och stora teknikföretag tillsammans för att hitta åtgärder och tekniska lösningar för att upptäcka och förhindra det från grunden.

Under nuvarande tid är den viktiga åtgärden att främja propaganda, öka människors medvetenhet om metoder, knep och sätt att känna igen och hantera denna sofistikerade form av förfalskning för att minska och begränsa deepfakes inverkan på aktiviteter i cyberrymden. Proaktivt utfärda omfattande varningar i massmedier när det finns nya utvecklingar och former av bedrägerier.

”Om man tar emot utpressningssamtal med känsliga bilder eller videor måste man behålla lugnet, verifiera och noggrant undersöka bildernas och videornas ursprung”, sa Tran Nguyen Trung.

Enligt forskningsrapporten ”Identifying risks to the global economy in 2024” från University of Economics (UEB) under Vietnam National University i Hanoi, är en av riskerna som påverkar den globala ekonomin risken inom tekniksektorn. Rapporten konstaterar att i samband med den snabba ökningen av AI har ledningspolitiken inte kunnat hålla jämna steg med utvecklingen av AI. Den felaktiga information som AI tillhandahåller, särskilt under ett år med många val i världen som i år, har skapat många problem för säkerhet, politik, försvar och fred globalt.

I ett uttalande till tidningen Tin Tuc-reportrar sa biträdande minister för vetenskap och teknik, Nguyen Hoang Giang: ”Premiärministern utfärdade beslut nr 127/2021 om den nationella forskningsstrategin, utveckling och tillämpning av artificiell intelligens fram till 2030. För att genomföra detta har ministeriet för vetenskap och teknik samt andra ministerier och grenar genomfört detta drastiskt och synkront, såsom justitieministeriet som forskar om den juridiska aspekten. Informations- och kommunikationsministeriet som forskar om digital teknik. Ministeriet för vetenskap och teknik har också stöttat, forskat om och utvecklat Industri 4.0; forskat om och tillämpat informationsteknologisk utveckling, som bidrar till utvecklingen av digitala och smarta städer. Men med den snabba och starka utvecklingen har de negativa aspekterna och riskerna med AI också uppstått när den missbrukas för att bli ett verktyg för cyberbrottslingar för bedrägerier, personifiering, hot, egendomstillfall etc..”

Hittills har ministeriet för vetenskap och teknik och regeringen, utöver forskningen, också aktivt byggt upp en rättslig ram och lärt sig av erfarenheterna från andra utvecklade länder så att AI-området i Vietnam kan främja sin potential, främja utveckling samt strikt kontrollera, säkerställa etik och mänsklighet inom området artificiell intelligens.

Den snabba utvecklingen av AI-verktyg har väckt många frågor gällande mänskliga rättigheter, etik, integritet, informationssäkerhet och juridiskt ansvar. Jämfört med världen befinner sig Vietnam fortfarande i ett tidigt skede av AI-utveckling. Därför finns det ett behov av specifika AI-regler och policyer som är lämpliga för alla aspekter av livet, ekonomin och samhället i Vietnam.

Snarast utfärda rättslig ram

Att hantera den mörka sidan av AI är också ett ämne som har diskuterats i flera länder. Europaparlamentet har godkänt världens första uppsättning grundläggande regler för reglering av artificiell intelligens. Många teknikexperter tror att dessa regler kommer att hjälpa EU att uppnå båda målen: att minimera den negativa inverkan av teknisk utveckling på användarna samt att komma ikapp den dominerande positionen hos viktiga konkurrenter på marknaden.

Kort därefter antog FN:s generalförsamling en resolution om artificiell intelligens (AI), som gav globalt stöd för internationella insatser för att säkerställa att denna nya teknik gynnar alla länder, respekterar mänskliga rättigheter och är "säker, trygg och pålitlig".

Vu Ngoc Son, teknisk chef för National Cyber Security Technology Joint Stock Company, sa: ”AI är en teknik som tjänar mänskliga intressen och stöder automatisering av många olika steg i verksamheten. Detta är ett kraftfullt verktyg som används för många olika ändamål, såsom att tillhandahålla frågestunder, mjukvaruproduktion etc. AI har dock också en negativ sida när den hamnar i händerna på ondskefulla aktörer i syfte att skapa bedrägligt innehåll och skadlig kod för att attackera användare. Följaktligen är AI inte ett verktyg specifikt för att skapa produkter eller brott, utan den viktiga frågan är ”hur man använder” AI.

”Jag tror att sanktioner och rättsliga korridorer inte riktigt har hållit i takt med AI-utvecklingen. Vi kommer att behöva tid för att bygga och införa strategier för att begränsa riskerna med AI när den används för dåliga syften, vilket påverkar mänskliga rättigheter samt säkerhet, ordning och social trygghet”, sa Vu Ngoc Son.

Dr. Dang Minh Tuan, chef för CMC ATI Institute, sa: ”Å ena sidan måste vi fortsätta att forska och utveckla ny teknik, uppdatera och studera metoder för att använda AI för dåliga syften. Å andra sidan måste vi också främja ärlighet inom vetenskap och arbete. Följaktligen måste det göras justeringar och investeringar i innehåll och specifika policyer för detta verktyg i Vietnam. I synnerhet kan vi också använda AI-verktyg för att upptäcka skadligt innehåll och kod. AI är som ett ”tvåeggat svärd” som skapar en kontinuerlig, kontinuerlig påverkansprocess, som kontinuerligt förbättras med det yttersta målet att tjäna mänskliga intressen.”

Experter säger att kravet är att kontrollera utvecklingen av högteknologiska produkter på ett ansvarsfullt sätt, eftersom oförmågan att reglera och bemästra tekniken kommer att leda till oförutsägbara konsekvenser, vilket orsakar förluster för ekonomin och påverkar varje individ såväl som hela samhället.

Att utfärda specifika och transparenta regleringar kommer inte bara att bidra till att förebygga och minimera risker som AI kan orsaka, utan också att hjälpa Vietnam att locka uppmärksamhet och investeringar från världens ledande teknikföretag, vilket främjar utvecklingen av den inhemska informationsteknik- och AI-industrin.

Kommentar (0)