Forhindre at teknologi krysser etiske grenser

Med sin raske utvikling skaper kunstig intelligens (KI) en «revolusjon» på mange felt – fra helsevesen, utdanning , næringsliv ... til dagliglivet. De negative aspektene ved denne teknologien byr imidlertid på betydelige utfordringer for håndtering og kontroll av informasjon i cyberspace.

Oversvømmet med AI-genererte falske nyheter

Falske nyheter generert av AI spres på sosiale medieplattformer hovedsakelig for å tiltrekke seg visninger, likerklikk, øke interaksjoner for å selge på nett eller tjene penger på plattformen.

Folk som lager falske nyheter «følger» ofte hete saker av offentlig interesse. For eksempel, etter en alvorlig trafikkulykke 17. september på Tan Long-markedet i Lao Bao kommune i Quang Tri -provinsen, der 12 personer ble skadet og drept, dukket det opp en rekke hjerteskjærende bilder på sosiale nettverk som fikk mange til å gråte. Politiet i Lao Bao kommune slo fast at disse bildene var laget av kunstig intelligens, og utstedte en advarsel om spredning av falske bilder som forårsaker misforståelser. Denne handlingen fører ikke bare til spredning av falsk informasjon, men påvirker også etterforskningen.

På samme måte utnyttet mange sosiale mediekontoer den offentlige oppmerksomheten rundt den kantrede turistbåten Blue Bay 58 i Ha Long-bukten i Quang Ninh-provinsen 19. juli, som drepte dusinvis av mennesker, rørende bilder og historier om ofrene. Mye av dette innholdet var imidlertid falskt, laget ved hjelp av kunstig intelligens for å «treffe» følelser og tiltrekke seg interaksjoner fra brukere av sosiale medier. Det er verdt å merke seg at de utbredte falske bildene med overdrevet sympatisk innhold kan forårsake ytterligere emosjonelt traume for ofrenes familier.

Med forbedret AI-teknologi hver dag, tar det bare noen få minutter med enkle kommandoer å lage en video med attraktivt innhold, tro mot brukerens intensjon. Spesielt nye generasjons AI-plattformer som KlingAI, Veo 3, Sora ... er svært populære blant globale brukere, inkludert Vietnam.

I tillegg har deepfake-teknologi – en kombinasjon av dyp læring og forfalskning – også skapt stor bekymring globalt, ettersom den kan brukes til å lage realistiske bilder, lyder eller videoer som er svært vanskelige å oppdage som falske. Som et resultat har en rekke svindelforsøk knyttet til denne teknologien skjedd både i Vietnam og verden.

Generalløytnant Nguyen Minh Chinh, permanent visepresident i National Cyber Security Association, bemerket at det er en trend med misbruk av AI til ulovlige formål. Spesielt AI-som-en-tjeneste (tjenester som tilbyr AI-verktøy og -applikasjoner) utnyttes av nettkriminelle til å lage ondsinnet kode, falske stemmer, ansikter, tekstmeldinger ... for å begå svindel, angripe nettverk, infiltrere datasystemer, til og med forårsake sikkerhetsustabilitet og ødelegge omdømmet til organisasjoner, bedrifter og ledere.

Ifølge Tran Ngoc Anh, teknisk direktør i CyberPeace Company Limited (CyPeace), er en av risikoene for AI-brukere at de kan motta falsk informasjon som er laget av selve verktøyet. I tillegg finnes det en rekke andre problemer, som for eksempel avsløring av konfidensiell informasjon, personopplysninger...

Å forhindre at teknologi krysser etiske grenser – Bilde 1.

Å forhindre at teknologi krysser etiske grenser – Bilde 2.

Falske bilder spres på internett for å «fremkalle tårer» fra seere, og dermed tiltrekke seg likerklikk og øke interaksjonene (skjermbilde)

Øk brukeransvaret

Før det iverksettes teknologiske og juridiske tiltak for å strengt kontrollere utviklingen og bruken av AI, må brukerne proaktivt bruke denne teknologien på en ansvarlig måte.

Cybersikkerhetsekspert Vu Ngoc Son, leder for teknologiavdelingen i National Cybersecurity Association, påpekte at mennesker er subjektene som utnytter og bruker AI, så de gode og dårlige sidene ved AI er nært knyttet til mennesker. Hvis brukerne er kvalifiserte og bruker den til gode formål, vil teknologien fremme dens fordelaktige styrker. Tvert imot, hvis AI-brukere mangler forståelse eller utnytter den til ulovlige formål, kan det føre til alvorlige konsekvenser. «For å bruke og utnytte AI effektivt, er det nødvendig å fokusere på å bygge team og prosesser. AI fremmer bare verdien sin når den plasseres i hendene på de som vet hvordan de skal mestre den», sa cybersikkerhetseksperten.

Med tanke på faren for deepfake – det ledende verktøyet for teknologisvindel i dag – understreket Finansdepartementet også følgende i forbindelse med utarbeidelsen av loven om investering og næringsliv: Deepfake-teknologivirksomhet må reguleres som en betinget forretningslinje for å forhindre teknologimisbruk som forårsaker informasjonsforstyrrelser, svindel... Ifølge Finansdepartementet er deepfake-teknologivirksomhet for tiden et av de nye feltene, som utgjør en komplekse risikoer for sikkerhet og orden, men er ikke regulert som en betinget forretningslinje.

Ifølge advokat Tran Anh Tuan (Hanoi Advokatforening) kan det være i strid med bestemmelsene i sivilloven dersom AI brukes til å lage innhold uten tillatelse, spesielt ved å lage falsk, falsk eller bedragersk informasjon. Følgelig vil overtredere bli underlagt administrative sanksjoner eller erstatning for skader. Ved alvorlige konsekvenser kan straffeansvar bli tiltalt. «Brukere må være forsiktige når de nærmer seg og bruker AI, absolutt unngå å utnytte AI for å tiltrekke seg visninger og likerklikk; øke personlig ansvar, overholde loven når de bruker AI samt deltar i nettmiljøet» – anbefalte advokat Tuan.

Generalløytnant Nguyen Minh Chinh understreket at kjernefaktoren i bærekraftig AI-utvikling er menneskelige ressurser. Fra forskere, ingeniører, cybersikkerhetseksperter til ledere og brukere, må alle være fullt utstyrt med kunnskap, ferdigheter, etikk og juridisk bevissthet. Ifølge Chinh er dette ikke bare teamet som bygger og driver AI-systemer, men også nøkkelkraften i å forebygge, oppdage og bekjempe høyteknologisk kriminalitet i cyberspace.

Vietnam vil ha en lov om kunstig intelligens

På en nylig nasjonal vitenskapelig konferanse om KI uttalte vitenskaps- og teknologiminister Nguyen Manh Hung at KI åpner for store muligheter, men også reiser mange spørsmål knyttet til etikk, sysselsetting og sosial tillit. Derfor må KI utvikles raskt, trygt og humant.

Ifølge minister Nguyen Manh Hung erstatter ikke KI mennesker, men tjener mennesker, er en assistent for mennesker. KI er et kraftig verktøy, men mennesker er beslutningstakerne, så la KI støtte, ikke erstatte menneskelig tenkning, verdier og ansvar. «Vitenskaps- og teknologidepartementet vil utstede en nasjonal etisk kodeks for KI i harmoni med internasjonale standarder, men utformet for å passe vietnamesisk praksis, og samtidig utvikle en KI-lov og en KI-strategi», informerte minister Nguyen Manh Hung.

Kilde: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm