Lagförslag om artificiell intelligens AI inom medicin måste inspekteras som medicintekniska produkter

Scen för diskussionssessionen i salen om projektet om artificiell intelligens

Hantera AI-produkter för sjukvården

Som delegat inom hälsosektorn uppskattade nationalförsamlingsledamoten Tran Khanh Thu ( Hung Yen ) starkt effekterna av artificiell intelligens (AI) inom hälsosektorn – ett av de områden med störst potential för AI-tillämpningar, med tydliga effekter på diagnos-, behandlings-, patienthanterings- samt läkemedelsforskning och utveckling.

Nyligen fördes dock en 55-årig patient i Ho Chi Minh- staden till akutmottagningen i ett slöhetstillstånd, omedveten om sin omgivning. Patientens dotter sa att hon tidigare hade sett sin mamma yr och ha svårt att andas, så hon bad AI att ställa en diagnos. Resultaten visade att hon hade högt blodtryck.

Nationalförsamlingsdelegaten Tran Khanh Thu (Hung Yen) talar

Delegaten berättade att sonen mätte sin mors blodtryck och såg att det verkligen hade ökat, så han gick till apoteket för att köpa medicin åt sin mor. Men efter att ha tagit medicinen förvärrades moderns tillstånd, hon blev trött, kräktes mycket och förlorade medvetandet, så han tog henne till akuten. På sjukhuset bekräftade läkaren att patienten hade hjärnskador och en stroke. Även om hon räddades från det kritiska skedet var konsekvenserna oundvikliga.

Delegaten sa öppet att internet är mycket populärt nuförtiden, särskilt AI, en mycket bra informationskälla för patienter som vill lära sig mer om sin sjukdom... Men folk kan absolut inte använda resultaten för att söka, diagnostisera eller förskriva medicin åt sig själva – och bryter personer som säljer medicin enligt AI-recept mot lagen? – delegaten tog upp frågan.

Delegaten påpekade också att vi inte har ett specifikt och fullständigt rättsligt ramverk specifikt för tillämpningen av AI inom hälso- och sjukvården. Även om lagar som lagen om medicinsk undersökning och behandling eller apotekslagen har reglerat medicinsk undersökning och behandling samt medicinska produkter, är de specifika bestämmelserna om AI-tillämpade produkter inom medicin fortfarande oklara.

Dessutom är AI-baserade medicinska undersöknings- och behandlingsprodukter fortfarande föremål för allmänna licensförfaranden för medicintekniska produkter, och saknar specifika AI-standarder och regler för dessa produkter.

Delegater som deltar i diskussionssessionen

”Dessutom är vissa frågor, såsom juridiskt ansvar vid AI-fel och medicinsk datasäkerhet och patientsäkerhet, inte tydligt reglerade i nuvarande rättsdokument”, betonade delegaten.

Baserat på ovanstående verklighet hoppas delegaten Tran Khanh Thu att lagförslaget om artificiell intelligens kommer att ha mer specifika bestämmelser, villkor och rättsliga ramar för att hantera AI-produkter för hälso- och sjukvården, särskilt berörda parters ansvar.

Med tanke på att hälso- och sjukvård är ett känsligt och högriskområde som måste kontrolleras strikt vid tillämpning av AI, föreslog nationalförsamlingsdelegaten Le Van Kham (Ho Chi Minh City) att det är nödvändigt att studera regelverken. AI inom hälso- och sjukvården måste inspekteras precis som medicintekniska produkter. Det finns obligatoriska inspektionskategorier när AI stöder kliniskt beslutsfattande, såsom: AI-diagnos, AI som förutsäger risken för dödsfall eller komplikationer, kirurgiska robotar som använder AI, AI som stöder receptbelagda läkemedel eller behandlingsregim.

Dessutom föreslog delegaterna att det borde finnas regler för övervakning av spridningen av AI inom hälso- och sjukvården för att säkerställa patientsäkerheten, såsom regler om periodisk rapportering, snabb varning för incidenter, algoritmgranskning och realtidsövervakning av fel. När det finns principiella regler i denna lag kommer den behöriga myndigheten att utfärda dellagar för att genomföra dem, samt bygga ledningsverktyg och lämpliga åtgärder inom medicinsk AI-styrning.

Bild från mötet. Foto: Quang Khanh

Samtidigt måste den utarbetande myndigheten noggrant överväga att låta leverantörer själva klassificera risker för AI inom medicin i enlighet med artikel 9 i lagförslaget, föreslog delegaten Le Van Kham.

Bedömning av datapåverkan av högrisk-AI-implementeringar

Nationalförsamlingsledamoten Thach Phuoc Binh (Vinh Long) betonade att riskklassificering är själva kärnan i lagen om artificiell intelligens och noterade att lagförslaget ännu inte har angett kvantitativa klassificeringskriterier. Listan över AI-system med hög risk regleras relativt brett, inklusive områden där inga betydande risker har uppstått i praktiken. Detta skulle kunna skapa onödiga efterlevnadsbördor, särskilt för små och medelstora företag.

Nationalförsamlingsdelegaten Thach Phuoc Binh (Vinh Long) talar. Foto: Pham Thang

Därför föreslog delegaterna att det är nödvändigt att se över högrisklistan för att endast fokusera på system som kan ha en stor inverkan på mänskliga rättigheter, integritet, hälsa, ekonomi och social trygghet. Samtidigt bör en mekanism inrättas för att flexibelt uppdatera högrisklistan baserat på samråd med experter, branschorganisationer och forskningsorganisationer. Tillsammans bör riskkriterier fästas vid modellens tekniska egenskaper, såsom automatisering, självinlärningsförmåga, oförutsägbarhet och användningsomfattning.

Angående data, integritet och användarskydd sa delegaten Thach Phuoc Binh att data är AI:s "bränsle", men de nuvarande bestämmelserna i lagförslaget är inte i linje med lagen om skydd av personuppgifter. Det är nödvändigt att förtydliga vilken behandlingsnivå som är tillåten för känsliga uppgifter, barnuppgifter och biometriska uppgifter. Samtidigt är det nödvändigt att lägga till skyldigheten att bedöma effekterna av data vid användning av högrisk-AI.

För AI-användare har lagförslaget nämnt vissa grundläggande rättigheter men saknar fortfarande viktiga rättigheter enligt internationella standarder, såsom rätten att vägra helt automatiserade beslut eller rätten att begära förklaringar. Dessa är mycket viktiga rättigheter för att hjälpa människor att inte skadas av AI-baserade beslut inom finans, försäkring, hälsa eller rekrytering.

Vetenskaps- och teknikminister Nguyen Manh Hung förklarar nationalförsamlingens ledamöters åsikter vid mötet. Foto: Ho Long

Delegaten påpekade att deepfakes, röst-, bild- och videoförfalskning har orsakat många incidenter som allvarligt påverkar informationssäkerhet och integritet. Artikel 9 i lagförslaget föreskriver märkning av AI-resultat, men det är fortfarande nödvändigt att förtydliga vissa punkter, såsom: vilka typer av innehåll som måste märkas, vilken nivå av märkning för att skydda användare utan att försämra den digitala upplevelsen, och ansvaret för sociala nätverksplattformar för att upptäcka och ta bort falskt innehåll. Att utforma en strikt men flexibel märkningsmekanism är en extremt nödvändig faktor.

Delegaten noterade också att systemet för bedömning av överensstämmelse är ett av de mest tekniska innehållen i lagförslaget. Men om vi utformar förhandsinspektionsmekanismen för tungt kan vi oavsiktligt hindra innovation.

Därför föreslog delegaten Thach Phuoc Binh att endast kräva certifiering för högrisksystem, vilket möjliggör självbedömning för låg- och medelrisksystem. Säkerställa en tydlig och transparent bedömningsprocess och undvika att skapa en mekanism för begäran och beviljande.

Källa: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html