AI former fremtiden – Del 2: Utfordringene som følger med

Potensial kommer med risiko

Det er ubestridelig at kunstig intelligens (KI) i økende grad viser seg å være et kraftig verktøy for å støtte arbeidere og legge til rette for menneskers liv. Imidlertid er disse teknologiske produktene som et «tveegget sverd» når de utnyttes av skurker til å begå svindel og angrep i cyberspace.

I advarselsbulletinene fra Departementet for informasjonssikkerhet ( Ministeriet for informasjon og kommunikasjon ) eller Cybersikkerhetsforeningen ble det nevnt mange registrerte tilfeller av svindel ved bruk av AI-teknologi. For eksempel sa Nguyen Thanh T – en kontoransatt i Hanoi – farvel mens hun chattet med en venn via Facebook Messenger. Vennen sa farvel og avsluttet samtalen, men gikk plutselig tilbake til tekstmeldingen, ba om å låne penger og ba om å overføre penger til en bankkonto. Selv om kontonavnet samsvarte med vennens navn, ble T mistenksom, så hun ba om en videosamtale for å bekrefte. Vennen gikk umiddelbart med på det, men samtalen varte bare i noen sekunder på grunn av «intermitterende nettverk».

Da hun så venninnens ansikt i videosamtalen , og stemmen også var korrekt, overførte fru T pengene. Men først etter at overføringen var vellykket, innså hun at hun hadde falt i hackerfellen.

Ikke bare fru T, men også mange andre ofre, venner og slektninger, ble svindlet på samme måte. Pengebeløpet skurkene svindlet ved å utgi seg for å bruke Deep Fake-verktøy og -stemmer har nådd titalls millioner dong.

Et annet typisk eksempel på bruk av kunstig intelligens for å tilegne seg eiendeler er tilfellet med Mr. NTH. Da svindlere brukte en Android-telefon, satte de opp en felle med instruksjoner om å installere en skadelig programvarelenke. Derfra tok de kontroll over telefonen og bankkontoene for å overføre penger til en tredjepart. I tillegg kontaktet skadevaren automatisk tilgjengelig kontaktinformasjon og sendte automatiske meldinger som ba om pengeoverføringer.

Herr NTH sa at bedrageren hevdet å være en « politibetjent », ringte telefonnummeret hans og ba om å bekrefte sin personlige identifikasjonsinformasjon. Fordi han var gammel, ukjent med teknologi og godtroende, ga offeret telefonen sin til en tredjepart for å be ham følge svindlerens instruksjoner, og lastet dermed ned og installerte det ondsinnede programmet «DichVuCong.apk» på telefonen hans.

Tran Nguyen Chung, leder for avdelingen for informasjonssikkerhet (avdelingen for informasjonssikkerhet), sa: Når KI-teknologi utvikles, vil det bli vanskeligere å oppdage og skille mellom ekte og falskt innhold i cyberspace, og hvem som helst kan bli et mål, et offer for cyberangrep fra kriminelle som bruker KI-teknologi. Hvorvidt man blir et offer eller ikke, avhenger imidlertid av om hver enkelt person har den nødvendige kunnskapen og informasjonen.

Denne svindelen med AI-teknologi forekommer ikke bare i Vietnam, men også i mange land rundt om i verden. For tiden jobber etater, organisasjoner og store teknologiselskaper sammen for å finne tiltak og tekniske løsninger for å oppdage og forhindre det fra roten av.

I den nåværende perioden er det viktigste tiltaket å fremme propaganda, øke folks bevissthet om metoder, triks og måter å gjenkjenne og håndtere denne sofistikerte formen for forfalskning for å bidra til å redusere og begrense virkningen av deepfake på aktiviteter i cyberspace. Proaktivt utstede omfattende advarsler i massemediene når det er nye utviklinger og former for svindel.

«Ved mottak av utpressingshenvendelser med sensitive bilder eller videoer, må folk forholde seg rolige, bekrefte og nøye undersøke opprinnelsen til bildene og videoene», sa Tran Nguyen Trung.

Ifølge forskningsrapporten «Identifying risks to the global economy in 2024» fra University of Economics (UEB) under Vietnam National University i Hanoi, er en av risikoene som påvirker den globale økonomien risikoen i teknologisektoren. Rapporten slår fast at i sammenheng med den raske veksten av AI har ikke ledelsen klart å holde tritt med utviklingen av AI. Feilinformasjonen som AI gir, spesielt i et år med mange valg i verden som i år, har skapt mange utfordringer for sikkerhet, politikk, forsvar og fred globalt.

I en samtale med avisreportere fra Tin Tuc sa viseminister for vitenskap og teknologi, Nguyen Hoang Giang: «Statsministeren utstedte beslutning nr. 127/2021 om den nasjonale forskningsstrategien, utvikling og anvendelse av kunstig intelligens frem til 2030. For å implementere denne strategien har Vitenskaps- og teknologidepartementet samt andre departementer og grener implementert den drastisk og synkront, for eksempel Justisdepartementet som forsker på det juridiske aspektet. Informasjons- og kommunikasjonsdepartementet som forsker på digital teknologi. Vitenskaps- og teknologidepartementet har også støttet, forsket på og utviklet Industri 4.0; forsket på og anvendt utvikling av informasjonsteknologi, som tjener til utvikling av digitale og smarte byer. Men med den raske og sterke utviklingen har de negative aspektene og risikoene ved AI også dukket opp når den misbrukes til å bli et verktøy for nettkriminelle for svindel, identitetstyveri, trusler, eiendomstilegnelse osv.»

Frem til nå har Vitenskaps- og teknologidepartementet og regjeringen, i tillegg til forskning, også aktivt bygd opp et juridisk rammeverk, og lært av erfaringene fra andre utviklede land, slik at AI-feltet i Vietnam kan fremme sitt potensial, fremme utvikling samt streng kontroll, sikre etikk og humanitet innen kunstig intelligens.

Den raske utviklingen av AI-verktøy har reist mange spørsmål knyttet til menneskerettigheter, etikk, personvern, informasjonssikkerhet og juridisk ansvar. Sammenlignet med verden er Vietnam fortsatt i en tidlig fase av AI-utviklingen. Derfor er det behov for spesifikke AI-forskrifter og -politikker som passer for alle aspekter av livet, økonomien og samfunnet i Vietnam.

Utstede et juridisk rammeverk snarest

Å håndtere den mørke siden av AI er også et tema som har blitt diskutert i flere land. Europaparlamentet har godkjent verdens første sett med grunnleggende regler for regulering av kunstig intelligens. Mange teknologieksperter mener at dette regelsettet vil hjelpe EU med å nå begge målene: å minimere den negative effekten av teknologisk utvikling på brukere, samt å ta igjen den dominerende posisjonen til viktige konkurrenter i markedet.

Kort tid etter vedtok FNs generalforsamling en resolusjon om kunstig intelligens (KI), som ga global støtte til internasjonale tiltak for å sikre at denne nye teknologien kommer alle land til gode, respekterer menneskerettigheter og er «trygg, sikker og pålitelig».

Vu Ngoc Son, teknisk direktør i National Cyber ​​Security Technology Joint Stock Company, sa: «KI er en teknologi som tjener menneskelige interesser og støtter automatisering av mange forskjellige driftsfaser. Dette er et kraftig verktøy som brukes til mange forskjellige formål, som å tilby spørsmål og svar-tjenester, programvareproduksjon osv. KI har imidlertid også en negativ side når den faller i hendene på ondsinnede aktører med sikte på å lage uredelig innhold og ondsinnet kode for å angripe brukere. Følgelig er ikke KI et verktøy spesifikt for å lage produkter eller kriminelle handlinger, men det viktige spørsmålet er «hvordan man bruker» KI.»

«Jeg tror ikke sanksjoner og juridiske korridorer egentlig har holdt tritt med utviklingen av kunstig intelligens. Vi trenger tid til å utvikle og innføre retningslinjer for å begrense risikoen ved kunstig intelligens når den brukes til dårlige formål, og som påvirker menneskerettigheter så vel som sikkerhet, orden og sosial trygghet», sa Vu Ngoc Son.

Dr. Dang Minh Tuan, direktør for CMC ATI Institute, sa: «På den ene siden må vi fortsatt fortsette å forske på og utvikle nye teknologier, oppdatere og studere metoder for bruk av AI til dårlige formål. På den andre siden må vi også fremme ærlighet i vitenskap og arbeid. Følgelig må det gjøres justeringer og investeringer i innhold og spesifikke retningslinjer for dette verktøyet i Vietnam. Spesielt kan vi også bruke AI-verktøy til å oppdage skadelig innhold og kode. AI er som et «tveegget sverd» som skaper en kontinuerlig, kontinuerlig påvirkningsprosess, kontinuerlig forbedring med det endelige målet å tjene menneskelige interesser.»

Eksperter sier at kravet er å kontrollere utviklingen av høyteknologiske produkter på en ansvarlig måte, fordi manglende evne til å regulere og mestre teknologi vil føre til uforutsigbare konsekvenser, forårsake tap for økonomien og påvirke hvert enkelt individ så vel som hele samfunnet.

Å utstede spesifikke og transparente forskrifter vil ikke bare bidra til å forhindre og minimere risikoer som AI kan forårsake, men også hjelpe Vietnam med å tiltrekke seg oppmerksomhet og investeringer fra verdens ledende teknologibedrifter, og fremme utviklingen av den innenlandske informasjonsteknologi- og AI-industrien.

Sluttartikkel: Parallell utvikling og kontroll av AI

Kilde: https://doanhnghiepvn.vn/cong-nghe/ai-dang-dinh-hinh-tuong-lai-bai-2-nhung-thach-thuc-di-kem/20240614100957238