Kunstig intelligens: Vi må øke sikkerheten i stedet for bare å fokusere på å utvikle sterkere

Paneldiskusjonen «KI for menneskeheten: KI-etikk og sikkerhet i den nye æraen», innenfor rammen av VinFuture 2025 Science and Technology Week, samler forskere , politikere og oppfinnere for å diskutere ansvarlig KI-utvikling, med humanistiske verdier som mål.

Tenk raskt på hvordan du skal leve med AI - en enhet som er smartere enn deg selv

Professor Toby Walsh, University of New South Wales, Australia, akademiker i American Computer Association, uttalte følgende på seminaret: «Jeg tror fullt og fast at ansvarlig bruk av AI bør være obligatorisk. Det finnes mange perverse insentiver i dag, med enorme pengesummer som tjenes takket være AI, og den eneste måten å sikre riktig oppførsel på er å anvende strenge regler, slik at offentlige interesser alltid balanseres med kommersielle interesser.»

Han viste til et typisk eksempel på viktige avgjørelser, som for eksempel rettsavsigelse og straffeutmåling i USA, hvor et AI-system ble brukt til å gi anbefalinger om en persons fengselsstraff og sannsynligheten for gjentakelse av lovbrudd. Dessverre var dette systemet trent på historiske data, og reflekterte utilsiktet tidligere rasemessige skjevheter, noe som førte til diskriminering av svarte mennesker.

Professor Toby Walsh, University of New South Wales, Australia, medlem av American Computer Society.

Derfor må selskaper som distribuerer og driver AI-systemer holdes ansvarlige for konsekvensene disse «maskinene» forårsaker.

Professor Geoffrey Hinton – vinner av VFs hovedpris i 2024 – er bekymret for at AI gradvis blir bedre til å designe farlige virus, cyberangrep og lage falske videoer for å forstyrre valg. I løpet av de neste 20 årene vil AI bli smartere enn oss, og vi vil ikke vite hvordan vi skal forhindre at den tar kontroll fra mennesker.

Derfor understreket denne professoren: «Vi må snarest tenke på hvordan vi kan leve med enheter som er smartere enn oss selv. Dette er en situasjon menneskeheten aldri har møtt før, den er ny, og vi må gjøre mye forskningsinnsats før det skjer.»

Behov for å styrke internasjonalt samarbeid for å begrense risikoer knyttet til kunstig intelligens

Professor Yoshua Bengio – vinner av hovedprisen i VinFuture 2024 – delte denne bekymringen og sa at AI-modeller, deres evner og nivåer av autonomi fortsatt utvikles i et raskt og jevnt tempo. Hvis denne trenden fortsetter, kan autonome AI-systemer utkonkurrere mennesker i de fleste kognitive oppgaver innen bare 5–10 år.

Dette ville være et historisk vendepunkt som kunne forbedre livskvaliteten vår dramatisk. Men hvis det ikke håndteres med forsiktighet, kan det også utgjøre en enorm risiko for demokratiet, geopolitisk stabilitet og til og med menneskehetens fremtid.

«Vi må forbedre sikkerheten for avansert AI i stedet for bare å fokusere på å gjøre den sterkere. Sikkerhet og tillit er ikke sekundære faktorer, men essensielle i utviklingsprosessen til fordel for menneskeheten. Vi må handle sammen både på politisk og vitenskapelig nivå», sa han.

Professor Yoshua Bengio – Vinner av hovedprisen i VinFuture 2024.

Denne forskeren anbefaler at verden, når det gjelder politikk, trenger internasjonalt samarbeid. Vitenskapelig sett er det nødvendig å bedre forstå hvordan man kan designe AI som både er overlegen i evne og ufarlig for mennesker, opprettholde evnen til å kontrollere AI slik at den oppfører seg trygt selv når mennesker ber den om å gjøre noe galt, og bygge tekniske og sosiale barrierer for å sikre at AI er i samsvar med menneskelige normer, intensjoner, verdier og interesser.

Dr. Vinton Grey Cert (visepresident og direktør for internettevangelisering hos Google – vinner av VF 2022s hovedpris) er enig: Vi må holde AI ansvarlige, etablere en sporbarhetskjede for å vite hva de gjør, når, spesielt når noe går galt. Mange av prinsippene som gjelder for mennesker, vil også gjelde for AI-agenter i nettmiljøet.

«Vi må samtidig etablere nye normer, der bruk av sterk identifikasjon, kryptografi for å sikre informasjon, anvendelse av mekanismer for å sikre ansvarlighet og beskyttelse av identiteter mot å bli kapret av andre – blir en vanlig vane. Vi bør bruke teknologi for å begrense risikoer fra starten av og være tydelige på at alle som anses å være skadelige for samfunnet og samfunnet, må ta konsekvensene av denne oppførselen. Dette krever internasjonalt samarbeid», sa han.

Vietnam må ha sin egen vei i å bygge AI-data.

Førsteamanuensis Luu Anh Tuan, Nanyang Technological University (Singapore), VinUni University (Vietnam) sa at andre land har datasett på omtrent 10 år, men Vietnam starter på null. Derfor kan vi bygge bærekraftige data fra starten av, og gi rene, etiske og kulturelt passende data helt fra starten av.

Den største utfordringen for Vietnam er imidlertid det vietnamesiske språkets spesifikke særtrekk. Vi har et mangfoldig dialektsystem, en rik regional kultur og ekstremt komplekse tiltaleformer. Store modeller som ChatGPT eller Gemini støtter vietnamesisk, men kvaliteten er ikke dyp fordi de ikke forstår vietnamesisk dialekt, skikker eller historie.

Vietnam må bygge sin egen vietnamesiske modell. I tillegg bør vi utvikle en modell med åpen kildekode slik at små bedrifter kan bruke og bidra. «Hvis vi bare stoler på utenlandske modeller i form av «svarte bokser», vil vi bare være AI-brukere og ikke AI-utviklere», sa han.

For tiden bygger førsteamanuensis Luu Anh Tuan og kollegene hans vietnamesiske AI-data. Faktorer som dialekt, historie og kultur må vurderes som fokus.

Han sa også at i utlandet blir studenter utdannet om AI veldig tidlig. Vietnam har så vidt begynt med dette, men vi kan akselerere ved å lære og tilpasse oss deretter.

«Unge vietnamesere er veldig dynamiske; de trenger bare å få full opplæring i digitalt ansvar. Vi bør ha et samlet organ for å bekrefte og standardisere datakvalitet og etiske standarder. VinUni deltar også i rådet for å bygge et system for etiske standarder og vil fortsette å bidra til denne prosessen», sa han.

Førsteamanuensis Luu Anh Tuan, Nanyang teknologiske universitet (Singapore), VinUni-universitetet (Vietnam).

Som svar på FDI-strategien som har som mål at Vietnam skal lede regionen innen kunstig intelligens innen 2030, mener førsteamanuensis Tuan at Vietnam har menneskelige ressurser av høy kvalitet – demonstrert gjennom internasjonale prestasjoner innen matematikk, fysikk og kjemi. Hvis vi vet hvordan vi skal samle krefter og ha en sterk politikk, kan 2030-målet nås fullt ut.

Professor Toby Walsh anbefaler at Vietnam bør investere i mennesker og proaktivt forbedre folks ferdigheter, sørge for at de forstår KI, støtte gründere, KI-bedrifter og støtte universiteter. I stedet for å vente på at andre land skal overføre teknologi eller veilede oss, må vi være proaktive og mestre teknologien.

Dessuten må Vietnam mobilisere sosiale nettverksplattformer kraftig for å skape et trygt miljø for innenlandske brukere, uten å påvirke landets demokrati.

THAO LE-THIEN LAM

Kilde: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html