Ekspertråd: Ikke forhast deg med å legalisere AI

(NLDO) – Workshopen tiltrakk seg oppmerksomhet fra forskere, forelesere, studenter og eksperter innen teknologi og jus.

Den 7. oktober organiserte Universitetet for økonomi og jus (VNU-HCM) en vitenskapelig konferanse i samarbeid med Ho Chi Minh City Law Newspaper med temaet «KI og jus: Internasjonal erfaring og noen forslag til Vietnam».

Trenger fleksibilitet i stedet for "stiv ramme"

Førsteamanuensis dr. Ngo Huu Phuoc, assisterende dekan ved Det økonomiske rettsfakultetet ved Universitetet for økonomi og jus, holdt en artikkel på workshopen om virkningen av kunstig intelligens (KI) på rettssystemet, lovgivningserfaringer fra land rundt om i verden og politiske forslag for Vietnam.

Førsteamanuensis dr. Ngo Huu Phuoc, assisterende dekan ved Det økonomiske rettsfakultetet ved Universitetet for økonomi og jus, presenterte sin artikkel. Foto: Organisasjonskomiteen

Ifølge Phuoc er Kina et av landene med en bemerkelsesverdig tilnærming til styring av kunstig intelligens. Dette landet anvender en flerlagsmodell som kombinerer grunnleggende lover som cybersikkerhetsloven (2017), datasikkerhetsloven (2021) og personopplysningsbeskyttelsesloven (2021) med spesialiserte forskrifter, lokale forskrifter og tekniske standarder av «myk lov»-karakter. Denne tilnærmingen hjelper Kina med både streng styring og å skape forhold for teknologitesting innenfor kontrollområdet.

De viktigste fordelene er hastighet og fleksibilitet, noe som muliggjør raske justeringer av politiske tiltak i henhold til teknologisk praksis, samtidig som det fremmer utviklingen av et sterkt AI-økosystem. Denne modellen avslører imidlertid også begrensninger når det gjelder personvern, juridisk overlapping og risikoen for å kvele innovasjon på grunn av dyp statlig intervensjon.

Basert på internasjonal erfaring mener førsteamanuensis dr. Ngo Huu Phuoc at Vietnam ikke bør vedta en egen lov om KI på nåværende tidspunkt. Årsaken er at det innenlandske KI-økosystemet ennå ikke er modent nok til å bli legalisert. Samtidig vil et «rigid juridisk rammeverk» hindre innovasjon. På den annen side er statlige forvaltningsressurser fortsatt begrensede.

I stedet foreslo han å utstede et etisk rammeverk (adferdskodeks) for AI for å veilede ansvarlig atferd og utvikling; bygge en AI-sandkasse for å tillate kontrollert testing; og endre og supplere eksisterende lover for å integrere AI-relaterte forskrifter i det eksisterende rettssystemet.

Ifølge eksperter vil disse retningslinjene hjelpe Vietnam med å utnytte mulighetene fra AI fleksibelt, trygt og i samsvar med landets faktiske forhold.

Når AI banker på sykehusdøren

Ifølge førsteamanuensis dr. Le Minh Khoi – leder for Institutt for vitenskap og opplæring ved Universitetet for medisin og farmasi i Ho Chi Minh-byen, har kunstig intelligens i medisin blitt utviklet med mange avanserte modeller, sammenlignet med felt som økonomi eller kommunikasjon. Praktisk anvendelse er imidlertid fortsatt avventende. «Leger er fortsatt i ferd med å utforske om kunstig intelligens er en «venn» eller en «fiende» – delte førsteamanuensis dr. Le Minh Khoi.

Ifølge førsteamanuensis dr. Le Minh Khoi utgjør det en rekke potensielle risikoer å bringe kunstig intelligens inn i det medisinske feltet, som datasikkerhet og personvern, skjevheter i algoritmer og etikk, spørsmål om sikkerhet, ansvar og åpenhet...

En av de store risikoene er «illusjonen» av AI. Hvis det oppstår feil i et bredt distribuert system, kan konsekvensene påvirke tusenvis av pasienter. Spørsmålet om ansvar er også vanskelig: Hvis AI forårsaker feil i diagnose eller behandling, hvem er ansvarlig – legen som bruker systemet, systemutvikleren, distributøren, sykehuset eller regulatoren?

Konferansescene - Foto: Organisasjonskomiteen

I tillegg, hvis leger stoler for mye på AI, kan de miste evnen til å tenke og gjøre kliniske vurderinger, og gradvis miste evnen til å oppdage og korrigere feil, mens menneskelig tilsyn fortsatt er en uunnværlig faktor. I tillegg gjør konservativ mentalitet, frykt for å miste jobben eller mangel på forståelse av teknologi også mange medisinske ansatte nølende med å tilnærme seg AI.

Angående juridiske utfordringer kommenterte førsteamanuensis Dr. Le Minh Khoi at hastigheten på AI-utviklingen for tiden er langt utenfor reguleringssystemets evne til å regulere. Teknologien beveger seg for raskt, mens reguleringer er trege, noe som fører til at vi havner i en «kvelende» situasjon mellom to ytterpunkter: hvis vi strammer inn, vil det kvele innovasjon, men hvis vi løsner opp, vil det være risikabelt for pasientene. I tillegg er den medisinske datainfrastrukturen i Vietnam fortsatt fragmentert, inkonsekvent og av ujevn kvalitet, noe som gjør det vanskelig å trene og teste AI-modeller.

Herr Khoi konkluderte med at AI er en stor mulighet for medisinindustrien, men også en test av menneskelig tilpasningsevne, åpenhet og ansvar i den digitale tidsalderen.

Kilde: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm