Expertråd: Skynda dig inte att legalisera AI

(NLDO) - Workshopen uppmärksammades av forskare, föreläsare, studenter och experter inom teknik och juridik.

Den 7 oktober organiserade University of Economics and Law (VNU-HCM) i samarbete med Ho Chi Minh City Law Newspaper en vetenskaplig konferens med temat "AI och juridik: Internationella erfarenheter och några förslag för Vietnam".

Behöver flexibilitet istället för "stel ram"

Vid workshopen presenterade docent Dr. Ngo Huu Phuoc, biträdande dekanus med ansvar för fakulteten för ekonomisk rätt vid University of Economics and Law, ett dokument om artificiell intelligens (AI) inverkan på rättssystemet, lagstiftningserfarenheter från länder runt om i världen och policyförslag för Vietnam.

Docent Dr. Ngo Huu Phuoc, biträdande dekanus med ansvar för fakulteten för ekonomisk rätt vid University of Economics and Law, presenterade sitt arbete. Foto: Organisationskommittén

Enligt Phuoc är Kina ett av de länder som har en anmärkningsvärd strategi för AI-styrning. Landet tillämpar en flerskiktad modell som kombinerar grundläggande lagar som cybersäkerhetslagen (2017), datasäkerhetslagen (2021) och lagen om skydd av personuppgifter (2021) med specialiserade bestämmelser, lokala bestämmelser och tekniska standarder av "mjuk lag"-karaktär. Denna strategi hjälper Kina att både strikt styra och skapa förutsättningar för tekniktestning inom ramen för kontrollen.

De främsta fördelarna är snabbhet och flexibilitet, vilket möjliggör snabba policyanpassningar i enlighet med teknisk praxis, samtidigt som det främjar utvecklingen av ett starkt AI-ekosystem. Denna modell avslöjar dock också begränsningar när det gäller integritet, juridisk överlappning och risken att hämma innovation på grund av djupgående statliga ingripanden.

Baserat på internationella erfarenheter anser docent Dr. Ngo Huu Phuoc att Vietnam ännu inte bör utfärda en separat lag om AI i nuvarande skede. Anledningen är att det inhemska AI-ekosystemet ännu inte är tillräckligt moget för att legaliseras. Samtidigt kommer ett "rigidt rättsligt ramverk" att hämma innovation. Å andra sidan är statliga förvaltningsresurser fortfarande begränsade.

Istället föreslog han att utfärda ett etiskt ramverk (uppförandekod) för AI för att vägleda ansvarsfullt beteende och utveckling; bygga en AI-sandlåda för att möjliggöra kontrollerad testning; och ändra och komplettera befintliga lagar för att integrera AI-relaterade regler i det befintliga rättssystemet.

Enligt experter kommer dessa inriktningar att hjälpa Vietnam att utnyttja möjligheter från AI flexibelt, säkert och i enlighet med landets faktiska förhållanden.

När AI knackar på sjukhusdörren

Enligt docent Dr. Le Minh Khoi - chef för institutionen för vetenskap och utbildning, University of Medicine and Pharmacy Hospital, Ho Chi Minh City, har AI inom medicin utvecklats med många avancerade modeller, jämfört med områden som ekonomi eller kommunikation. Den praktiska tillämpningen är dock fortfarande avvaktande. "Läkare undersöker fortfarande om AI är en 'vän' eller en 'fiende'", delade docent Dr. Le Minh Khoi.

Enligt docent Dr. Le Minh Khoi innebär en rad potentiella risker att föra in AI i det medicinska området, såsom datasäkerhet och integritet, partiskhet i algoritmer och etik, frågor om säkerhet, ansvar och transparens...

En av de stora riskerna är AI:s "illusion". Om fel uppstår i ett brett implementerat system kan konsekvenserna drabba tusentals patienter. Frågan om ansvar är också svår: Om AI orsakar fel i diagnos eller behandling, vem är ansvarig – läkaren som använder systemet, systemutvecklaren, distributören, sjukhuset eller tillsynsmyndigheten?

Konferensscen - Foto: Organisationskommittén

Dessutom, om läkare förlitar sig för mycket på AI, kan de förlora sin förmåga att tänka och göra kliniska bedömningar, och gradvis förlora förmågan att upptäcka och korrigera fel, medan mänsklig övervakning förblir en oumbärlig faktor. Dessutom gör konservativ mentalitet, rädsla för att förlora sina jobb eller bristande förståelse för teknik också att många medicinska personal tvekar att närma sig AI.

Angående juridiska utmaningar kommenterade docent Dr. Le Minh Khoi att AI-utvecklingens hastighet för närvarande är långt bortom regelsystemets förmåga att reglera. Tekniken utvecklas för snabbt, medan regleringar är långsamma, vilket gör att vi hamnar i en "kvävande" situation mellan två ytterligheter: om vi skärper reglerna kommer det att kväva innovation, men om vi lättar på dem kommer det att vara riskabelt för patienterna. Dessutom är den medicinska datainfrastrukturen i Vietnam fortfarande fragmenterad, inkonsekvent och av ojämn kvalitet, vilket gör det svårt att träna och testa AI-modeller.

Herr Khoi avslutade med att AI är en stor möjlighet för sjukvårdsindustrin men också ett test av mänsklig anpassningsförmåga, öppenhet och ansvar i den digitala tidsåldern.

Källa: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm