Minister Nguyen Manh Hung: Problemene skapt av AI kan være større enn atombomber

Ifølge minister Nguyen Manh Hung kan kraften til kunstig intelligens være større enn kjernekraft, så problemene med kunstig intelligens kan være enda større enn atombomber. Kunstig intelligens og dens problemer vil alltid eksistere, kan ikke elimineres, så vi må leve sammen og forvalte den klokt.

Nguyen Manh Hung – vitenskaps- og teknologiminister taler på workshopen – Foto: NGUYEN BAO

Kommentarene ble gitt av vitenskaps- og teknologiministeren på den vitenskapelige konferansen Ubegrenset makt og uforutsigbare utfordringer med kunstig intelligens (KI) - negative virkninger og politiske tiltak, som fant sted morgenen 15. september.

AI byr på enestående utfordringer

På workshopen pekte foredragsholderne på den tosidige naturen til AI, omfattende vurderinger av dens innvirkning på økonomi , utdanning, helse, kultur, bærekraftig utvikling, nasjonalt forsvar og sikkerhetsstyring, osv.

Ifølge general Luong Tam Quang, minister for offentlig sikkerhet, regnes kunstig intelligens (KI) som en av nøkkelteknologiene i den fjerde industrielle revolusjonen, en faktor som kan føre til endringer i den globale orden i fremtiden.

Med evnen til å fremme økonomisk vekst, optimalisere produksjonen, forbedre helsevesenet, innovere utdanning og styrke sosial styringskapasitet, hjelper AI land med å spare kostnader, øke effektiviteten, utvide kunnskapen, og er en ressurs, en kraft og en drivkraft for å bekrefte nasjonal posisjon i den digitale tidsalderen.

I tillegg til potensialet sitt, byr AI også på enestående utfordringer når det gjelder juridiske hull, etiske risikoer, teknologimisbruk for nettkriminalitet, informasjonskrigføring, brudd på personvern og spesielt risikoen for innvirkning på nasjonalt forsvar og sikkerhet.

General Luong Tam Quang, minister for offentlig sikkerhet, taler på konferansen - Foto: NGUYEN BAO

Professor Nguyen Xuan Thang, direktør for Ho Chi Minh National Academy of Politics, sa at i tillegg til sitt store potensial, har AI mange alvorlige og uforutsigbare risikoer.

Spesielt bekymringsfullt er det potensielle tapet av kontroll over selvlærende og selvtilpassende AI-systemer, spesielt ettersom de utvikler seg utover menneskelig forståelse og tilsyn.

Ifølge Thang har AI hatt negative konsekvenser for arbeidsmarkedet, ettersom mange tradisjonelle yrker blir erstattet, noe som fører til økt risiko for arbeidsledighet, spesielt for ufaglærte arbeidere eller de uten digitale ferdigheter.

Spesielt hvis treningsdata er partiske, vil AI reprodusere og forsterke sosiale skjevheter, noe som fører til partiske og urettferdige beslutninger.

I tillegg kan KI også utnyttes til farlige aktiviteter som nettsvindel, spredning av falske nyheter, falske stemmer og bilder (deepfake), som forårsaker offentlig forvirring og påvirker sikkerhet og sosial orden; den kan utnyttes til å utføre sofistikerte cyberangrep for å infiltrere og ødelegge informasjonssystemer, viktig infrastruktur eller stjele data og nasjonale hemmeligheter.

«Kappløpet om å utvikle AI mellom land risikerer å skape strategiske ubalanser og fremme militære spenninger, spesielt i mangel av internasjonale juridiske rammeverk for å kontrollere bruken av AI i forsvar og sikkerhet.»

Derfor er AI både et verktøy for å forbedre forsvars- og sikkerhetskapasiteter og en potensiell kilde til risiko for verdensfred og -sikkerhet hvis den ikke brukes ansvarlig og transparent, sa Thang.

Prof. Dr. Nguyen Xuan Thang - direktør for Ho Chi Minh National Academy of Politics - taler på konferansen - Foto: NGUYEN BAO

AI-problemer som kan løses av AI selv

På konferansen sa vitenskaps- og teknologiminister Nguyen Manh Hung at Vietnam utstedte sin første AI-strategi i 2021. Men AI er et felt i rask endring, og det vil bli en oppdatering av den nasjonale AI-strategien og AI-loven innen utgangen av dette året.

Ifølge minister Nguyen Manh Hung er dette ikke bare et juridisk rammeverk, men også en erklæring om nasjonal visjon. AI må bli landets intellektuelle infrastruktur, tjene folket, utvikle seg bærekraftig og styrke nasjonal konkurranseevne.

AI åpner for store muligheter, men reiser også mange spørsmål knyttet til etikk, sysselsetting og sosial tillit. Derfor må Vietnam utvikle AI som er rask, trygg og human.

AI er for mennesker, den erstatter ikke mennesker, men tjener mennesker. AI er en assistent for mennesker. AI er et kraftig verktøy, men mennesker er beslutningstakerne. La AI støtte, ikke erstatte, menneskelig tenkning, verdier og ansvar.

Minister Nguyen Manh Hung kommenterte: «KIs kraft kan være større enn kjernekraft, og derfor kan problemene være større enn atombomber. Men KI og problemene er tvillinger, som yin og yang, som to sider av en mynt, som er avhengige av hverandre for å sameksistere og utvikle seg, og de forvandler hverandre.»

KI-problemer kan løses av KI selv, for eksempel ved å lære opp KI-personale med KI-teknologi, og ved å oppdage brudd på KI-etikk også med KI selv.

AI vokser med problemene den skaper. Uten AI-problemer vil det ikke bli noen AI-vekst. AI og AI-problemer er et stort «og». AI og dens problemer vil alltid eksistere, vi kan ikke eliminere dem, men må leve med dem og håndtere dem klokt.

Nasjonal etikkkode for kunstig intelligens skal utstedes

Ifølge minister Nguyen Manh Hung vil det i nær fremtid bli utstedt en nasjonal etisk kodeks for kunstig intelligens, i harmoni med internasjonale standarder, men utformet for å passe vietnamesisk praksis, og kunstig intelligens-loven og kunstig intelligens-strategien vil bli bygget i henhold til følgende kjernesynspunkter:

Først, styr etter risikonivå.

For det andre, åpenhet og ansvarlighet.

For det tredje, sett mennesket i sentrum.

For det fjerde, oppmuntre til innenlandsk AI-utvikling og AI-autonomi.

For det femte, ta AI som en drivkraft for rask og bærekraftig vekst.

For det sjette, beskyttelse av digital suverenitet. Data, infrastruktur og AI-teknologi er de tre strategiske søylene i digital suverenitet.

Tilbake til emnet

Nguyen Bao

Kilde: https://tuoitre.vn/bo-truong-nguyen-manh-hung-van-de-cua-ai-tao-ra-co-the-lon-hon-bom-nguyen-tu-20250915103427851.htm