Advies van experts: haast je niet met het legaliseren van AI

(NLDO) - De workshop trok de aandacht van onderzoekers, docenten, studenten en deskundigen uit het vakgebied van technologie en recht.

Op 7 oktober organiseerde de Universiteit voor Economie en Recht (VNU-HCM) in samenwerking met de juridische krant van Ho Chi Minh City een wetenschappelijke conferentie met als thema "AI en recht: internationale ervaringen en enkele suggesties voor Vietnam".

Flexibiliteit nodig in plaats van een "rigide frame"

Spreker op de workshop was universitair hoofddocent dr. Ngo Huu Phuoc, adjunct-decaan van de faculteit economisch recht van de Universiteit voor Economie en Recht. Hij gaf een presentatie over de impact van kunstmatige intelligentie (AI) op het rechtssysteem, de wetgevingservaring van landen over de hele wereld en beleidsvoorstellen voor Vietnam.

Universitair hoofddocent dr. Ngo Huu Phuoc, adjunct-decaan van de Faculteit Economisch Recht van de Universiteit voor Economie en Recht, presenteerde zijn paper. Foto: Organisatiecomité

Volgens de heer Phuoc is China een van de landen met een opmerkelijke aanpak van AI-governance. Dit land hanteert een meerlagig model, waarbij basiswetten zoals de Cyber ​​Security Law (2017), Data Security Law (2021) en Personal Information Protection Law (2021) worden gecombineerd met gespecialiseerde regelgeving, lokale regelgeving en technische standaarden van "soft law"-aard. Deze aanpak helpt China om zowel strikt te reguleren als voorwaarden te scheppen voor het testen van technologie binnen de reikwijdte van controle.

De belangrijkste voordelen zijn snelheid en flexibiliteit, waardoor snelle beleidsaanpassingen mogelijk zijn op basis van technologische praktijken, en tegelijkertijd de ontwikkeling van een sterk AI-ecosysteem wordt bevorderd. Dit model brengt echter ook beperkingen met zich mee op het gebied van privacy, juridische overlappingen en het risico op het onderdrukken van innovatie door inmenging van de diepe staat.

Gebaseerd op internationale ervaring is universitair hoofddocent dr. Ngo Huu Phuoc van mening dat Vietnam op dit moment nog geen aparte wet over AI zou moeten uitvaardigen. De reden hiervoor is dat het binnenlandse AI-ecosysteem nog niet volwassen genoeg is om te worden gelegaliseerd. Een "rigide juridisch kader" zal innovatie in de weg staan. Aan de andere kant zijn de middelen voor overheidsbeheer nog steeds beperkt.

In plaats daarvan stelde hij voor om een ​​ethisch kader (gedragscode) voor AI op te stellen om verantwoord gedrag en ontwikkeling te sturen; om een ​​AI-sandbox te bouwen om gecontroleerde tests mogelijk te maken; en om bestaande wetten aan te passen en aan te vullen om regelgeving met betrekking tot AI te integreren in het bestaande rechtssysteem.

Volgens deskundigen zullen deze richtlijnen Vietnam helpen om op een flexibele, veilige manier en in overeenstemming met de werkelijke omstandigheden in het land te profiteren van de kansen die AI biedt.

Als AI op de deur van het ziekenhuis klopt

Volgens universitair hoofddocent dr. Le Minh Khoi, hoofd van de afdeling Wetenschap en Opleiding van het University of Medicine and Pharmacy Hospital in Ho Chi Minhstad, is AI in de geneeskunde, vergeleken met vakgebieden zoals economie of communicatie, ontwikkeld met veel geavanceerde modellen. De praktische toepassing ervan is echter nog voorzichtig. "Artsen zijn nog steeds aan het onderzoeken of AI een 'vriend' of een 'vijand' is", aldus universitair hoofddocent dr. Le Minh Khoi.

Volgens universitair hoofddocent Dr. Le Minh Khoi brengt de inzet van AI in de medische sector een reeks potentiële risico's met zich mee, zoals op het gebied van gegevensbeveiliging en privacy, vooringenomenheid in algoritmes en ethiek, en kwesties met betrekking tot veiligheid, verantwoordelijkheid en transparantie.

Een van de grote risico's is de "illusie" van AI. Als er fouten optreden in een breed ingezet systeem, kunnen de gevolgen duizenden patiënten treffen. De vraag naar aansprakelijkheid is ook netelig: als AI fouten veroorzaakt in de diagnose of behandeling, wie is dan verantwoordelijk – de arts die het systeem gebruikt, de systeemontwikkelaar, de distributeur, het ziekenhuis of de toezichthouder?

Conferentiescène - Foto: Organisatiecomité

Als artsen te veel op AI vertrouwen, kunnen ze bovendien hun denkvermogen en klinische oordelen verliezen, en geleidelijk ook het vermogen om fouten te detecteren en te corrigeren verliezen, terwijl menselijk toezicht een onmisbare factor blijft. Bovendien zorgen conservatieve mentaliteiten, angst om hun baan te verliezen of gebrek aan kennis van technologie ervoor dat veel medisch personeel terughoudend is om AI te benaderen.

Wat betreft juridische uitdagingen merkte universitair hoofddocent dr. Le Minh Khoi op dat de snelheid van de AI-ontwikkeling momenteel de mogelijkheden van het regelgevingssysteem ver te boven gaat. De technologie ontwikkelt zich te snel, terwijl de regelgeving traag is, waardoor we in een "verstikkende" situatie tussen twee uitersten terechtkomen: als we de regelgeving verscherpen, zal het innovatie onderdrukken, maar als we de regelgeving versoepelen, zal het riskant zijn voor patiënten. Bovendien is de medische data-infrastructuur in Vietnam nog steeds gefragmenteerd, inconsistent en van wisselende kwaliteit, waardoor het moeilijk is om AI-modellen te trainen en te testen.

De heer Khoi concludeerde dat AI een geweldige kans biedt voor de medische sector, maar ook een test is van het aanpassingsvermogen, de open geest en het verantwoordelijkheidsgevoel van mensen in het digitale tijdperk.

Bron: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm