Wetsvoorstel over kunstmatige intelligentieAI in de geneeskunde moet net als medische hulpmiddelen worden geïnspecteerd

Gezien het feit dat de gezondheidszorg een gevoelig en risicovol gebied is dat strikt gecontroleerd moet worden, inclusief de toepassing van AI, stelden sommige afgevaardigden voor om in het wetsontwerp over kunstmatige intelligentie regels op te nemen die bepalen dat AI in de gezondheidszorg net als in medische apparatuur moet worden geïnspecteerd.

Scène van de discussiesessie in de zaal over het project Kunstmatige Intelligentie Recht

Beheer van AI-producten voor de gezondheidszorg

Als afgevaardigde werkzaam in de gezondheidszorg, waardeerde afgevaardigde Tran Khanh Thu ( Hung Yen ) van de Nationale Assemblee de impact van kunstmatige intelligentie (AI) op de gezondheidszorg enorm. Het is een van de sectoren met het grootste potentieel voor AI-toepassingen, met een duidelijke impact op het proces van diagnose, behandeling, patiëntenzorg en farmaceutisch onderzoek en ontwikkeling.

Onlangs werd echter een 55-jarige patiënte in Ho Chi Minhstad in lethargische toestand naar de spoedeisende hulp gebracht, zonder zich bewust te zijn van haar omgeving. De dochter van de patiënte vertelde dat ze haar moeder eerder duizelig en met ademhalingsproblemen had gezien, dus vroeg ze AI om een ​​diagnose te stellen. De resultaten toonden aan dat ze een hoge bloeddruk had.

Tran Khanh Thu (Hung Yen), afgevaardigde van de Nationale Assemblee, spreekt

De afgevaardigde zei dat de zoon de bloeddruk van zijn moeder had gemeten en zag dat die flink was gestegen. Hij ging daarom naar de apotheek om medicijnen voor zijn moeder te kopen. Maar na het innemen van de medicijnen verslechterde de toestand van de moeder: ze werd moe, braakte veel en verloor het bewustzijn. Hij bracht haar daarom naar de spoedeisende hulp. In het ziekenhuis bevestigde de arts dat de patiënt hersenschade en een beroerte had opgelopen. Hoewel ze uit de kritieke fase was gered, waren de gevolgen onvermijdelijk.

De afgevaardigde zei ronduit dat het internet tegenwoordig erg populair is, vooral AI, een zeer goede bron van informatie voor patiënten die meer willen weten over hun ziekte... Mensen kunnen de resultaten echter absoluut niet gebruiken om zelf medicijnen te zoeken, te diagnosticeren of voor te schrijven. En overtreden mensen die medicijnen verkopen op basis van AI-voorschriften de wet? - De afgevaardigde bracht de kwestie ter sprake.

De afgevaardigde wees er ook op dat we geen specifiek en volledig wettelijk kader hebben voor de toepassing van AI in de gezondheidszorg. Hoewel wetten zoals de Wet op het medisch onderzoek en de medische behandeling of de Wet op de farmacie medische onderzoeks- en behandelactiviteiten en medische producten reguleren, is de specifieke regelgeving voor AI-producten in de geneeskunde nog steeds onduidelijk.

Bovendien vallen medische onderzoeks- en behandelingsproducten op basis van AI nog steeds onder de algemene vergunningsprocedures voor medische hulpmiddelen. Er zijn geen specifieke AI-normen en -regelgeving voor die producten.

Afgevaardigden die de discussiesessie bijwonen

"Bovendien zijn sommige kwesties, zoals de juridische aansprakelijkheid bij AI-fouten en de beveiliging van medische gegevens en de veiligheid van patiënten, niet duidelijk geregeld in de huidige juridische documenten", benadrukte de afgevaardigde.

Op basis van bovenstaande realiteit hoopt afgevaardigde Tran Khanh Thu dat het wetsontwerp over kunstmatige intelligentie meer specifieke bepalingen, termijnen en juridische kaders zal bevatten voor het beheer van AI-producten voor de gezondheidszorg, met name wat betreft de verantwoordelijkheden van de relevante partijen.

Aangezien de gezondheidszorg een gevoelige en risicovolle sector is, moet er strikt toezicht zijn op de toepassing van AI. Afgevaardigde Le Van Kham (Ho Chi Minhstad) van de Nationale Assemblee stelde voor om de regelgeving te bestuderen en AI in de gezondheidszorg te inspecteren, net als medische hulpmiddelen. Er zijn verplichte inspectiecategorieën wanneer AI klinische besluitvorming ondersteunt, zoals: AI-diagnostiek, AI die het risico op overlijden of complicaties voorspelt, chirurgische robots die AI gebruiken, en AI die het voorschrijven of behandelen ondersteunt.

Daarnaast stelden de afgevaardigden voor om regelgeving op te stellen voor het monitoren van de circulatie van AI in de gezondheidszorg om de veiligheid van patiënten te waarborgen, zoals regelgeving voor periodieke rapportage, snelle incidentwaarschuwing, algoritme-auditing en realtime foutmonitoring. Wanneer er principiële regelgeving in deze wet is opgenomen, zal de bevoegde autoriteit subwetdocumenten uitvaardigen om deze te implementeren, en tevens managementtools en passende maatregelen ontwikkelen voor het beheer van medische AI.

Uitzicht op de bijeenkomst. Foto: Quang Khanh

Tegelijkertijd moet de opsteller van het wetsvoorstel zorgvuldig overwegen om leveranciers zelf de risico's voor AI in de geneeskunde te laten classificeren, zoals bepaald in artikel 9 van het wetsontwerp, suggereerde afgevaardigde Le Van Kham.

Het beoordelen van de data-impact van AI-implementaties met een hoog risico

Thach Phuoc Binh (Vinh Long), afgevaardigde van de Nationale Assemblee, benadrukte dat risicoclassificatie de ziel van de wet inzake kunstmatige intelligentie vormt en merkte op dat het wetsontwerp nog geen kwantitatieve classificatiecriteria bevat. De lijst met AI-systemen met een hoog risico wordt relatief breed gereguleerd, inclusief gebieden waar in de praktijk geen significante risico's zijn opgetreden. Dit zou onnodige nalevingslasten kunnen creëren, met name voor kleine en middelgrote ondernemingen.

Afgevaardigde van de Nationale Assemblee, Thach Phuoc Binh (Vinh Long), spreekt. Foto: Pham Thang

Daarom stelden de afgevaardigden voor om de lijst met risicovolle systemen te herzien en zich alleen te richten op systemen die een grote impact kunnen hebben op mensenrechten, privacy, gezondheid, financiën en sociale zekerheid. Tegelijkertijd moet er een mechanisme worden opgezet om de lijst met risicovolle systemen flexibel bij te werken op basis van overleg met experts, brancheorganisaties en onderzoeksorganisaties. Koppel risicocriteria aan de technische kenmerken van het model, zoals automatisering, zelflerend vermogen, onvoorspelbaarheid en schaal van gebruik.

Wat betreft gegevens, privacy en gebruikersbescherming, zei afgevaardigde Thach Phuoc Binh dat gegevens de "brandstof" van AI zijn, maar dat de huidige bepalingen van het wetsontwerp niet in overeenstemming zijn met de Wet bescherming persoonsgegevens. Het is noodzakelijk om de mate van verwerking die is toegestaan ​​voor gevoelige gegevens, gegevens van kinderen en biometrische gegevens te verduidelijken. Tegelijkertijd is het noodzakelijk om de verplichting toe te voegen om de impact van gegevens te beoordelen bij de inzet van risicovolle AI.

Voor AI-gebruikers worden in het wetsontwerp enkele basisrechten genoemd, maar ontbreken nog steeds belangrijke rechten volgens internationale normen, zoals het recht om volledig geautomatiseerde beslissingen te weigeren of het recht om uitleg te vragen. Dit zijn zeer belangrijke rechten om te voorkomen dat mensen schade ondervinden van AI-gebaseerde beslissingen op het gebied van financiën, verzekeringen, gezondheidszorg of werving en selectie.

Minister van Wetenschap en Technologie Nguyen Manh Hung licht de standpunten van de afgevaardigden van de Nationale Assemblee tijdens de vergadering toe. Foto: Ho Long

De afgevaardigde wees erop dat deepfake, stem-, beeld- en videovervalsing tot veel incidenten hebben geleid die de informatiebeveiliging en privacy ernstig in gevaar brengen. Artikel 9 van het wetsontwerp schrijft de etikettering van AI-resultaten voor, maar het is nog steeds noodzakelijk om enkele punten te verduidelijken, zoals: welke soorten content moeten worden gelabeld, welk niveau van labeling moet worden toegepast om gebruikers te beschermen zonder de digitale ervaring te beperken, en de verantwoordelijkheid van socialenetwerkplatformen bij het detecteren en verwijderen van nepcontent. Het ontwerpen van een strikt maar flexibel labelmechanisme is een uiterst noodzakelijke factor.

De afgevaardigde merkte ook op dat het conformiteitsbeoordelingssysteem een ​​van de meest technische onderdelen van het wetsontwerp is. Als we het pre-inspectiemechanisme echter te zwaar inrichten, kunnen we onbedoeld innovatie belemmeren.

Daarom stelde afgevaardigde Thach Phuoc Binh voor om certificering alleen te vereisen voor systemen met een hoog risico, en zelfbeoordeling mogelijk te maken voor systemen met een laag en middelhoog risico. Zorg voor een duidelijk en transparant beoordelingsproces en vermijd de ontwikkeling van een aanvraag- en goedkeuringsmechanisme.

Bron: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html