Hindre at teknologi krysser etiske grenser.

Den økende bruken av AI til uetiske formål har skapt et presserende behov for teknologikontroll og økt brukeransvarlighet.

Med sin raske utvikling revolusjonerer kunstig intelligens (KI) mange felt – fra helsevesen, utdanning og næringsliv til dagliglivet. Ulempene med denne teknologien byr imidlertid på betydelige utfordringer for håndtering og kontroll av informasjon i cyberspace.

Oversvømmet med falske nyheter generert av AI.

Falske nyheter generert av AI spres på sosiale medieplattformer primært for å få visninger, likerklikk og engasjement for nettsalg eller for å tjene på plattformen.

De som lager falske nyheter utnytter ofte trender i aktuelle hendelser som tiltrekker seg offentlig oppmerksomhet. For eksempel, etter den alvorlige trafikkulykken 17. september på Tan Long-markedet i Lao Bao kommune i Quang Tri -provinsen, som resulterte i 12 dødsfall, dukket det opp noen hjerteskjærende bilder på sosiale medier som fikk mange seere til å gråte. Politiet i Lao Bao kommune identifiserte disse bildene som laget av kunstig intelligens og utstedte en advarsel om spredningen av disse villedende falske bildene. Denne oppførselen sprer ikke bare falsk informasjon, men hindrer også etterforskning.

På samme måte utnyttet mange sosiale medier-kontoer den offentlige oppmerksomheten rundt kantringen av turistbåten Green Bay 58 i Ha Long-bukten i Quang Ninh-provinsen den 19. juli, som drepte dusinvis av mennesker, emosjonelle bilder og historier om ofrene. En betydelig del av dette innholdet var imidlertid falskt, laget ved hjelp av kunstig intelligens for å manipulere følelser og tiltrekke seg interaksjon fra brukere på sosiale medier. Det er verdt å merke seg at den utbredte bruken av falske bilder med overdreven sympati kan traumatisere ofrenes familier ytterligere.

Med stadig forbedring av AI-teknologi tar det bare noen få minutter og enkle kommandoer å lage en video med engasjerende innhold som perfekt samsvarer med brukerens intensjoner. Blant disse er neste generasjons AI-plattformer som KlingAI, Veo 3 og Sora svært populære blant brukere over hele verden, inkludert Vietnam.

Videre er deepfake-teknologi – en kombinasjon av dyp læring og forfalskning – også en stor bekymring globalt, ettersom den kan brukes til å lage bilder, lyder eller videoer som ser så ekte ut at de er svært vanskelige å oppdage som falske. Som et resultat har det skjedd en rekke svindelforsøk knyttet til denne teknologien både i Vietnam og rundt om i verden.

Generalløytnant Nguyen Minh Chinh, fast nestleder i National Cybersecurity Association, bemerket en økende trend med misbruk av kunstig intelligens til ulovlige formål. Spesielt utnyttes kunstig intelligens som en tjeneste (kunstig intelligens-leverte verktøy og applikasjoner) av nettkriminelle til å lage skadelig programvare, forfalske stemmer, ansikter og tekstmeldinger ... for svindel, nettangrep, inntrenging i datasystemer og til og med for å destabilisere sikkerheten og skade omdømmet til organisasjoner, bedrifter og ledere.

Ifølge Tran Ngoc Anh, teknisk direktør i Hoa Binh Cyber ​​​​Space Company Limited (CyPeace), er en av risikoene for AI-brukere potensialet for å motta feilinformasjon generert av selve verktøyet. I tillegg er det en rekke andre problemer, som lekkasje av konfidensiell informasjon og personopplysninger.

Falske bilder spres på nettet for å «få seerne til å gråte», og dermed få likerklikk og øke interaksjonen (skjermbilde).

Styrking av brukeransvar

Før teknologiske og juridiske tiltak er på plass for å strengt kontrollere utviklingen og bruken av AI, må brukerne proaktivt bruke denne teknologien på en ansvarlig måte.

Cybersikkerhetsekspert Vu Ngoc Son, leder av teknologikomiteen i National Cybersecurity Association, påpekte at mennesker er subjektene som utnytter og bruker AI, så både de gode og dårlige sidene ved AI er nært knyttet til mennesker. Hvis brukerne er dyktige og bruker den til gode formål, vil teknologien utnytte dens styrker til deres fordel. Omvendt, hvis AI-brukere mangler forståelse eller utnytter den til ulovlige formål, kan det føre til alvorlige konsekvenser. «For å bruke og utnytte AI effektivt, er det nødvendig å fokusere på å bygge et team og prosesser. AI realiserer bare sin verdi når den plasseres i hendene på de som vet hvordan de skal mestre den», sa cybersikkerhetseksperten.

Gitt farene ved deepfake-teknologi – et ledende verktøy som legger til rette for nåværende nettsvindel – understreket Finansdepartementet under utarbeidelsen av loven om investering og næringsliv at virksomheten innen deepfake-teknologi må reguleres som en betinget næringssektor for å forhindre misbruk av teknologi som forårsaker informasjonsforstyrrelser og svindel. Ifølge Finansdepartementet er deepfake-teknologivirksomhet for tiden et av de nye feltene med komplekse potensielle risikoer for sikkerhet og orden, men det er ikke regulert som en betinget næringssektor.

Ifølge advokat Tran Anh Tuan (Hanoi Advokatforening) kan bruk av KI til å lage innhold uten tillatelse, spesielt for å lage falsk, fabrikkert eller bedragersk informasjon, være i strid med bestemmelsene i sivilloven. Overtredere kan bli ilagt administrative straffer eller erstatning for skader. I tilfeller som forårsaker alvorlige konsekvenser, kan straffeansvar iverksettes. «Brukere må være forsiktige når de får tilgang til og bruker KI, og absolutt unngå handlinger som utnytter KI for å få visninger eller likerklikk. De bør øke personlig ansvar og overholde loven når de bruker KI og deltar i nettmiljøet», rådet advokat Tuan.

Generalløytnant Nguyen Minh Chinh understreket at kjerneelementet i bærekraftig AI-utvikling er menneskelige ressurser. Fra forskere, ingeniører, cybersikkerhetseksperter til ledere og brukere, må alle være fullt utstyrt med kunnskap, ferdigheter, etikk og juridisk bevissthet. Ifølge ham er dette ikke bare teamet som bygger og driver AI-systemer, men også nøkkelkraften i å forebygge, oppdage og bekjempe høyteknologisk kriminalitet i cyberspace.

Vietnam vil ha en lov om kunstig intelligens.

På en nylig nasjonal vitenskapelig konferanse om KI uttalte vitenskaps- og teknologiminister Nguyen Manh Hung at KI åpner for store muligheter, men reiser også mange spørsmål knyttet til etikk, sysselsetting og sosial tillit. Derfor må KI-utviklingen være rask, trygg og human.

Ifølge minister Nguyen Manh Hung erstatter ikke KI mennesker, men tjener mennesker ved å fungere som deres assistenter. KI er et kraftig verktøy, men mennesker er beslutningstakerne. Derfor bør KI støtte, ikke erstatte, menneskelig tenkning, verdier og ansvar. «Vitenskaps- og teknologidepartementet vil utstede en nasjonal etisk kodeks for KI som er harmonisert med internasjonale standarder, men utformet for å passe vietnamesiske realiteter, og vil også utvikle en KI-lov og en KI-strategi», uttalte minister Nguyen Manh Hung.

Kilde: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm