Etiske rammeverk i AI-operasjoner må være tydelig definerte

Om morgenen 21. november diskuterte representanter fra nasjonalforsamlingen (NAD-er) i grupper utkastet til lov om kunstig intelligens. Spørsmålet om etikk i AI-aktiviteter bekymret mange NAD-er.

Delegasjonen fra nasjonalforsamlingen i Ho Chi Minh-byen diskuterte i grupper morgenen 21. november. Foto: QUANG PHUC

Viseminister Nguyen Tri Thuc (HCMC), som er visehelseminister, sa om lovutkastet at et av de vanskeligste problemene for helsesektoren når man implementerer teknologier og kunstig intelligens (KI) er anskaffelser og anbudskonkurranser, fordi det er svært vanskelig å fastsette priser, og det er også veldig lett at det oppstår negative sider. Etikk i bruk av KI er svært viktig, så han håper at regjeringen vil gi Helsedepartementet i oppdrag å utstede etiske retningslinjer for bruk av KI.

Delegat Nguyen Tri Thuc (HCMC). Foto: QUANG PHUC

Representant Tran Hoang Ngan (HCMC) kommenterte også at KI utvikler seg raskt og bringer stor verdi til menneskeheten, men det finnes også negative aspekter, brudd på menneskerettigheter og grunnlovsstridige handlinger, så det er svært nødvendig med lover. Representanten gikk med på å klassifisere og administrere KI-systemer i henhold til risikoer, og gikk med på å klassifisere risikoer i fire nivåer (lav, middels, høy og uakseptabel risiko). Lovutkastet må imidlertid tydelig definere kvantitative eller kvalitative kriterier for å identifisere og klassifisere risikoer, samt ha forskrifter om styringstiltak, verktøy og metoder for risikovurdering.

Delegat Tran Hoang Ngan (HCMC). Foto: QUANG PHUC

Delegat Nguyen Minh Duc (HCMC) spurte: hvem vil være ansvarlig dersom AI lager produkter som bryter loven, for eksempel ærekrenkelse eller fornærmelse av ledere, dette er også noe mange internasjonale organisasjoner er bekymret for. Derfor, ifølge delegaten, er det nødvendig å vurdere kompensasjonsmekanismen for subjektene dersom AI skaper feil eller brudd på opphavsretten.

«Så er det spørsmålet om immaterielle rettigheter for verk skapt av AI. Hvem blir eieren?», spurte representant Nguyen Minh Duc. Representanten var enig i bestemmelsene om merking av produkter som bruker AI i lovutkastet, som har som mål å skape bindende etiske og juridiske forpliktelser.

Delegat Nguyen Minh Duc (HCMC). Foto: QUANG PHUC

Ifølge stedfortreder Bui Hoai Son (Hanoi) er spørsmålet om immaterielle rettigheter og opphavsrett for AI-genererte produkter i ferd med å bli et hett tema i verden , noe som forårsaker mange tvister, men lovutkastet har ennå ikke definert det klart. Hvis det ikke reguleres i tide, kan vietnamesiske kunstnere bli dårligere stilt, og det kulturelle og kreative miljøet vil bli ustabilt.

«Loven om kunstig intelligens bør ha minst én prinsipiell bestemmelse som bekrefter at alle AI-applikasjoner må respektere immaterielle rettigheter, ikke må bruke treningsdata fra litterære, kunstneriske, musikalske, filmatiske verk osv. ulovlig, og gi loven om immaterielle rettigheter ansvaret for detaljene», foreslo stedfortreder Bui Hoai Son.

Nestleder Bui Hoai Son sa også at det er nødvendig å avklare ansvaret til plattformer som tilbyr AI-tjenester, spesielt plattformer på tvers av landegrenser, når det gjelder å respektere vietnamesiske lover om presse, film, cybersikkerhet, informasjonssikkerhet, barn osv. Uten sterke nok reguleringer vil vi ha vanskeligheter med å håndtere spredning av giftig innhold skapt av AI, fra falske nyheter til innhold som oppfordrer til vold, hat, fordervelse og brudd på kultur og sosial etikk.

Ifølge representantene kan KI også utføre menneskelige handlinger og feil. Samtidig finnes det mange forskjellige synspunkter på det juridiske ansvaret til KI i seg selv, så det er vanskelig å fastslå ansvar i tradisjonell forstand. Når en hendelse oppstår, vil det føre til tvister om administrativt, sivilt og strafferettslig ansvar. Derfor er det nødvendig å supplere prinsippene for å skille ansvar mellom subjekter og tilknyttede parter, inkludert utenlandske leverandører når de leverer grenseoverskridende KI-tjenester, og for å skille mellom forsettlige og utilsiktede tilfeller eller feil på grunn av tekniske begrensninger og uforutsette situasjoner.

Utkastet fastsetter også grunnleggende etiske prinsipper i KI-aktiviteter. Representant Nguyen Thi Yen (HCMC) var enig i at det etiske rammeverket i KI-aktiviteter må være tydelig definert for å forhindre brudd.

Angående forbudte handlinger: bruk av AI til å forårsake uorden, oppildne til politikk, krenke nasjonal sikkerhet, manipulere stemmer, valg... Forbud mot bruk av AI til å lage falskt innhold, lage falske bilder og videoklipp, fornærme ære og verdighet, forårsake splittelse og andre onde hensikter.

PHAN THAO

Kilde: https://www.sggp.org.vn/khung-dao-duc-trong-hoat-dong-ai-phai-quy-dinh-ro-rang-post824652.html