A mesterséges intelligenciáról szóló törvénytervezetAz orvostudományban használt mesterséges intelligenciát az orvostechnikai eszközökhöz hasonlóan kell ellenőrizni

Tekintettel arra, hogy az egészségügy egy érzékeny, magas kockázatú terület, amelyet szigorúan ellenőrizni kell, beleértve a mesterséges intelligencia alkalmazását is, egyes küldöttek azt javasolták, hogy a mesterséges intelligenciáról szóló törvénytervezetnek tanulmányoznia kellene azokat a szabályozásokat, amelyek előírják, hogy az egészségügyben használt mesterséges intelligenciát az orvostechnikai eszközökhöz hasonlóan ellenőrizni kell.

Jelenet a Mesterséges Intelligencia Jogi Projektről szóló vitaülésről a teremben

AI-termékek kezelése az egészségügyben

Az egészségügyi szektorban dolgozó küldöttként Tran Khanh Thu ( Hung Yen ), a Nemzetgyűlés képviselője nagyra értékelte a mesterséges intelligencia (MI) hatását az egészségügyi szektorban – amely az egyik legnagyobb potenciállal rendelkező terület a MI alkalmazására, egyértelmű hatással a diagnózis, a kezelés, a betegellátás, valamint a gyógyszerkutatás és -fejlesztés folyamatára.

Nemrégiben azonban egy 55 éves Ho Si Minh- városi beteget szállítottak a sürgősségire letargikus állapotban, aki nem volt tudatában a környezetének. A beteg lánya elmondta, hogy korábban már látta édesanyját szédülni és légzési nehézségekkel küzdeni, ezért megkérte a mesterséges intelligenciát, hogy diagnosztizálja. Az eredmények azt mutatták, hogy magas vérnyomása van.

Tran Khanh Thu (Hung Yen) nemzetgyűlési képviselő felszólal

A küldött elmondta, hogy a fiú megmérte anyja vérnyomását, és látta, hogy az valóban megemelkedett, ezért elment a gyógyszertárba, hogy gyógyszert vegyen az anyjának. De a gyógyszer bevétele után az anya állapota rosszabbodott, fáradt lett, sokat hányt, és elvesztette az eszméletét, ezért a sürgősségire vitte. A kórházban az orvos megerősítette, hogy a betegnek agykárosodása és szélütése volt. Bár sikerült megmenteni a kritikus stádiumból, a következmények elkerülhetetlenek voltak.

A küldött őszintén elmondta, hogy az internet manapság nagyon népszerű, különösen a mesterséges intelligencia, ami egy nagyon jó információforrás azoknak a betegeknek, akik többet szeretnének megtudni a betegségükről... Azonban az emberek semmiképpen sem használhatják fel az eredményeket arra, hogy keressenek, diagnosztizáljanak vagy felírjanak maguknak gyógyszereket - és vajon törvényt sértenek azok, akik mesterséges intelligencia által kiadott receptek alapján árulnak gyógyszereket? - vetette fel a kérdést a küldött.

A küldött rámutatott arra is, hogy nincs konkrét és teljes körű jogi keretrendszerünk kifejezetten a mesterséges intelligencia egészségügyben történő alkalmazására. Bár olyan törvények, mint az orvosi vizsgálatról és kezelésről szóló törvény vagy a gyógyszerészeti törvény, szabályozták az orvosi vizsgálati és kezelési tevékenységeket, valamint az orvostechnikai eszközöket, az orvostudományban alkalmazott mesterséges intelligenciával előállított termékekre vonatkozó konkrét szabályozás még mindig nem egyértelmű.

Ezenkívül a mesterséges intelligencia alapú orvosi vizsgálati és kezelési termékek továbbra is az orvostechnikai eszközökre vonatkozó általános engedélyezési eljárások hatálya alá tartoznak, amelyekből hiányoznak az ezekre a termékekre vonatkozó konkrét mesterséges intelligencia szabványok és szabályozások.

A vitaülésen részt vevő küldöttek

„Ezenkívül bizonyos kérdések, mint például a jogi felelősség mesterséges intelligenciahibák esetén, valamint az orvosi adatok biztonsága és a betegek biztonsága, nincsenek egyértelműen szabályozva a jelenlegi jogi dokumentumokban” – hangsúlyozta a küldött.

A fentiek alapján Tran Khanh Thu küldött reméli, hogy a mesterséges intelligenciáról szóló törvénytervezet konkrétabb rendelkezéseket, kifejezéseket és jogi kereteket tartalmaz majd az egészségügyi MI-termékek kezelésére, különös tekintettel az érintett felek felelősségére.

Tekintettel arra, hogy az egészségügy érzékeny és magas kockázatú terület, szigorú ellenőrzésre van szükség a mesterséges intelligencia alkalmazásakor, Le Van Kham (Ho Si Minh-város) nemzetgyűlési küldött azt javasolta, hogy tanulmányozni kell a szabályozásokat, és az egészségügyben használt mesterséges intelligenciát az orvostechnikai eszközökhöz hasonlóan kell ellenőrizni. Vannak kötelező ellenőrzési kategóriák, amikor a mesterséges intelligencia támogatja a klinikai döntéshozatalt, például: mesterséges intelligencia általi diagnózis, halál vagy szövődmények kockázatának előrejelzése, mesterséges intelligenciát használó sebészeti robotok, receptírást vagy kezelési rendet támogató mesterséges intelligencia.

Ezenkívül a küldöttek azt javasolták, hogy a betegbiztonság garantálása érdekében szabályozásokat kellene bevezetni a mesterséges intelligencia egészségügyi ellátásban való terjesztésének nyomon követéséről, például az időszakos jelentéstételről, a gyors incidensfigyelmeztetésről, az algoritmus-ellenőrzésről és a valós idejű hibafigyelésről. Amennyiben ez a törvény elvi szabályozásokat tartalmaz, az illetékes hatóság részleges dokumentumokat ad ki azok végrehajtására, valamint irányítási eszközöket és megfelelő intézkedéseket dolgoz ki az orvosi mesterséges intelligencia irányításában.

A találkozó képe. Fotó: Quang Khanh

Ugyanakkor a tervezet kidolgozó testületének gondosan mérlegelnie kell, hogy a beszállítók a törvényjavaslat 9. cikkében foglaltak szerint önbesorolást végezhessenek az orvostudományban használt mesterséges intelligencia kockázataival kapcsolatban – javasolta Le Van Kham küldött.

A magas kockázatú mesterséges intelligencia telepítések adathatásának felmérése

Thach Phuoc Binh (Vinh Long) nemzetgyűlési képviselő hangsúlyozta, hogy a kockázatbesorolás a mesterséges intelligenciáról szóló törvény lelke, és megjegyezte, hogy a törvénytervezet még nem tartalmaz mennyiségi osztályozási kritériumokat. A magas kockázatú mesterségesintelligencia-rendszerek listáját viszonylag széles körben szabályozzák, beleértve azokat a területeket is, ahol a gyakorlatban nem jelentek meg jelentős kockázatok. Ez szükségtelen megfelelési terheket okozhat, különösen a kis- és középvállalkozások számára.

Thach Phuoc Binh (Vinh Long) nemzetgyűlési küldött beszéde. Fotó: Pham Thang

Ezért a küldöttek azt javasolták, hogy a magas kockázatú listát felül kell vizsgálni, és csak azokra a rendszerekre kell összpontosítani, amelyek jelentős hatással lehetnek az emberi jogokra, a magánéletre, az egészségügyre, a pénzügyekre és a társadalombiztosításra. Ugyanakkor létre kell hozni egy olyan mechanizmust, amely rugalmasan frissíti a magas kockázatú listát a szakértőkkel, iparági szövetségekkel és kutatószervezetekkel folytatott konzultációk alapján. Kockázati kritériumokat kell csatolni a modell technikai jellemzőihez, mint például az automatizálás, az önálló tanulási képesség, a kiszámíthatatlanság és a használat mértéke.

Az adatokkal, a magánélettel és a felhasználók védelmével kapcsolatban Thach Phuoc Binh küldött elmondta, hogy az adat a mesterséges intelligencia „üzemanyaga”, de a törvénytervezet jelenlegi rendelkezései nincsenek összhangban a személyes adatok védelméről szóló törvénnyel. Tisztázni kell az érzékeny adatok, a gyermekadatok és a biometrikus adatok feldolgozásának megengedett szintjét. Ugyanakkor ki kell egészíteni az adatok hatásának felmérésére vonatkozó kötelezettséget a magas kockázatú mesterséges intelligencia alkalmazásakor.

A mesterséges intelligencia felhasználói számára a törvénytervezet megemlít néhány alapvető jogot, de továbbra is hiányoznak belőle a nemzetközi szabványoknak megfelelő fontos jogok, mint például a teljesen automatizált döntések megtagadásának joga vagy a magyarázatkérés joga. Ezek nagyon fontos jogok annak érdekében, hogy az embereket ne érjék károk a mesterséges intelligencia alapú döntések miatt a pénzügy, a biztosítás, az egészségügy vagy a munkaerő-toborzás területén.

Nguyễn Manh Hung tudományos és technológiai miniszter ismerteti a Nemzetgyűlés képviselőinek véleményét a találkozón. Fotó: Ho Long

A küldött rámutatott, hogy a deepfake, a hang-, kép- és videóhamisítás számos olyan incidenst okozott, amelyek súlyosan befolyásolják az információbiztonságot és az adatvédelmet. A törvénytervezet 9. cikke előírja a mesterséges intelligencia kimeneteinek címkézését, de még mindig tisztázni kell néhány pontot, például: milyen típusú tartalmakat kell címkézni, milyen szintű címkézésre van szükség a felhasználók védelme érdekében a digitális élmény csökkentése nélkül, valamint a közösségi hálózati platformok felelőssége a hamis tartalmak felderítésében és eltávolításában. Rendkívül fontos tényező egy szigorú, de rugalmas címkézési mechanizmus kialakítása.

A küldött azt is megjegyezte, hogy a megfelelőségértékelési rendszer a törvénytervezet egyik legtechnikaibb tartalma. Ha azonban túl bonyolultan tervezzük meg az előzetes ellenőrzési mechanizmust, akaratlanul is akadályozhatjuk az innovációt.

Ezért Thach Phuoc Binh küldött azt javasolta, hogy csak a magas kockázatú rendszerek esetében írják elő a tanúsítást, az alacsony és közepes kockázatú rendszerek esetében pedig lehetővé tegyék az önértékelést. Biztosítsanak egy egyértelmű és átlátható értékelési folyamatot, elkerülve a kérelem-támogatás mechanizmusának létrehozását.

Forrás: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html