Vietnam studerer regelverk for etikk innen kunstig intelligens

Basert på erfaring i mange land og UNESCOs prinsipper, bygger Vietnam forskrifter for å utvikle kunstig intelligens (KI) på en etisk og ansvarlig måte.

På workshopen «Ansvarlig utvikling og anvendelse av kunstig intelligens: teori og praksis», som ble holdt morgenen 28. februar ved University of Law, VNU, sa viseminister for vitenskap og teknologi Bui The Duy at etikk knyttet til kunstig intelligens er et komplekst, globalt spørsmål som tiltrekker seg mange land og organisasjoner rundt om i verden til å delta i å finne løsninger. Dette gjelder blant annet UNESCO.

«UNESCO er en organisasjon som fokuserer på kultur og utdanning . Men for første gang har denne organisasjonen inkludert kunstig intelligens – et teknologirelatert tema – i diskusjonen. Dette har til og med ført til at noen land som har forlatt organisasjonen har bestemt seg for å bli med igjen», sa han.

Ifølge viseministeren påvirker AI-etikk mange aspekter av livet, som samfunn, lov, politisk konkurranse og kommersiell konkurranse. For at kunstig intelligens skal utvikle seg på en ansvarlig måte, må ledelse tas på alvor, fra stadiet med å definere AI-modeller, samle inn data, til å fullføre systemet og sette det i bruk. I Vietnams virkelighet krever denne prosessen koordinering av ingeniører, forskere og forvaltningsorganer som Vitenskaps- og teknologidepartementet, Informasjons- og kommunikasjonsdepartementet og Departementet for offentlig sikkerhet .

Duy sa også på workshopen at UNESCOs prinsipper er grunnlaget for at land skal kunne utarbeide regelverk for etikk innen kunstig intelligens. For det første må modellen for kunstig intelligens overholde designen og oppgavene som er etablert fra starten av, for å sikre at det ikke skjer noen destruktive handlinger som forårsaker skade på mennesker.

«KI er helt annerledes enn teknologiene som mennesker har forsket på. Mens gamle teknologiprodukter bare følger eksisterende mål, kan KI skape nye retninger, utenfor utviklerens kontroll», sa han. Viseministeren ga også et eksempel på et tilfelle der forskere lot to datasystemer snakke sammen på engelsk. Etter en periode gikk de imidlertid plutselig over til å kommunisere på et fremmed språk, noe som gjorde det umulig for forskerteamet å forstå innholdet i samtalen.

Spørsmålet om likhet og rettferdighet er også et tema å vurdere når man bygger en AI-modell. Ifølge Duy kan ulikhet oppstå helt fra det trinnet med å samle inn informasjon for å trene kunstig intelligens, og dette kan påvirke hele systemet negativt.

Han sa at hvis datakilden kun samles inn fra folk i Hanoi, vil systemet være partisk når det samhandler med folk fra andre regioner med AI-stemmegjenkjenningsmodellen. «Mer generelt kan AI-datakilder forårsake urettferdighet mellom kjønn og grupper i samfunnet, som for eksempel personer med funksjonsnedsettelser», sa han. Derfor, for å få til en rettferdig AI-utvikling, er det i tillegg til deltakelse fra juridiske eksperter også behov for bidrag fra psykologer og sosiologer.

I tillegg la representanten fra departementet vekt på noen viktige prinsipper for AI-etikk, som å sikre personopplysningssikkerhet, respekt for opphavsrett, immaterielle rettigheter, forbedre arbeidsproduktiviteten, men også behovet for å beskytte miljøet og sosial trygghet.

Viseminister Bui The Duy taler på workshopen. Foto: Hoang Giang

På workshopen sa ekspertene at Vietnam overvåker implementeringen av regelverk for ansvarlig AI-utvikling i mange land og regioner rundt om i verden, for å undersøke og bygge et juridisk rammeverk som er egnet for innenlandsk praksis.

Mer spesifikt godkjente EU prinsippene i AI-loven ved utgangen av 2023, som forventes publisert senest i andre kvartal 2024. Dette er for tiden den første og mest omfattende loven, med mange initiativer for å håndtere risikoer fra AI.

«KI-loven 2024 vil være basert på risikoene ved KI-modeller for å justere loven deretter, sammen med en sandkasse og en «myknet» tilnærming til etikk, pålitelighet og ansvar», sa Dr. Do Giang Nam, University of Law, VNU, på workshopen. Ifølge ham er erfaringene fra KI-loven som Vietnam kan anvende «ikke å bygge en lov én gang for alle, men å kontinuerlig oppdatere og tilpasse seg utviklingen av KI-teknologi».

I motsetning til Europa, ser USA til privat sektor for å få svar på utviklingen av KI-styring. USA er også landet med flest søksmål mot KI-selskaper, hovedsakelig knyttet til brudd på personvernet og diskriminering mellom grupper av arbeidere. Ifølge eksperter har USA en tendens til å utstede mange prinsipper i stedet for et fast sett med lover, slik at organisasjoner og enkeltpersoner kan være fleksible i prosessen med å utvikle og anvende KI-modeller.

Kina og Japan er også to land som har gjort store fremskritt i utviklingen av ansvarlig AI. Siden 2019 har landet med én milliard innbyggere utstedt fire prinsipper, med fokus på modellerere, brukere, AI-styring og fremtidige retninger for AI-utvikling. Følgelig har Kina valgt å både utvikle AI autonomt og fremme innenlandsk styring, mens Japan sikter mot en menneskesentrert AI-adferdskodeks, samtidig som de sikrer deltakelse i internasjonale fora.

«Prosessen med å håndtere kunstig intelligens i land i samme region som Kina og Japan kan være en erfaring for ansvarlig AI-utvikling i Vietnam. I tillegg til lovlighet er ansvar her også ansvar overfor samfunnet og mennesker», sa førsteamanuensis Dr. Nguyen Thi Que Anh, rektor ved University of Law, VNU. I tillegg bygger Vietnam også loven om digital teknologiindustri, som inkluderer innhold om digital produktetikk, inkludert kunstig intelligens.

Hoang Giang

Kildekobling: https://vnexpress.net/viet-nam-nghien-cuu-quy-dinh-ve-dao-duc-ai-4716422.html