Potřeba navrhnout moderní, synchronní mechanismus správy umělé inteligence
Poslanci Národního shromáždění vyjádřili souhlas s přístupem k přípravě tohoto zákona jako rámcového zákona pro řízení a podporu výzkumu, vývoje, zavádění a používání umělé inteligence ve Vietnamu a vysoce ocenili přípravu vlády; návrh zákona byl propracován a zajišťoval soulad s předpisy; zároveň je nezbytný návrh na zrušení řady souvisejících článků a ustanovení v zákoně o digitálním technologickém průmyslu, aby se zabránilo překrývání a vytvořil se jednotný právní základ pro řízení a podporu rozvoje umělé inteligence. Aby však byl tento zákon dokončen, poslanci požádali návrhovou komisi, aby pokračovala v revizi a odpovídajícím způsobem změnila, doplnila a zrušila řadu článků a ustanovení.
Scéna ze setkání Skupiny 6 ráno 21. listopadu. Foto: Ho Long
Konkrétně ohledně rozsahu regulace a příslušných subjektů poslanec Národního shromáždění Pham Trong Nghia (Lang Son) uvedl, že je nutné tuto otázku dále objasňovat. V současné době totiž hrozí, že se ustanovení týkající se „výzkumných činností“ v návrhu překrývají s obsahem, který je již upraven zákonem o vědě , technologii a inovacích. Návrh zároveň neobsahuje konkrétní politiku na podporu výzkumu systémů umělé inteligence a jasně nedefinuje subjekty vykonávající tuto činnost. Delegát proto navrhl vyjasnit, které činnosti spadají do rozsahu regulace zákona a které činnosti spadají pod stávající zákon, aby se zajistila proveditelnost, konzistence a zabránilo se překrývání.
Poslanec Národního shromáždění Pham Trong Nghia ( Lang Son ) se vyjadřuje k návrhu zákona o umělé inteligenci. Foto: Ho Long
Pokud jde o vysvětlení pojmů, poslanec Národního shromáždění Pham Trong Nghia věnoval zvláštní pozornost konceptu „jemného doladění“ v modelu univerzální umělé inteligence. Zástupce uvedl, že se jedná o specializovaný termín, který dosud není populární, takže je třeba jasně definovat obsah, aby se usnadnilo pozdější uplatňování a vymáhání zákona. Návrh v současné době obsahuje pouze jednu větu o Národním výboru pro umělou inteligenci, která jasně neuvádí: právní postavení; funkce, úkoly, pravomoci; organizační strukturu, mechanismus fungování; vztah s ministerstvy a složkami. Zástupce proto navrhl objasnit nutnost zřízení této instituce a zároveň posoudit soulad s politikou zefektivnění aparátu podle předpisů strany. V případě jeho zachování je nutné doplnit předpisy nebo pověřit vládu podrobnou specifikací výše uvedených otázek.
Pokud jde o zakázané činy, delegáti uvedli, že návrh zákona dosud zakázané činy nestanoví, ačkoli se jedná o důležitý „právní štít“ na ochranu lidských práv, zajištění spravedlivé hospodářské soutěže a dodržování mezinárodních standardů. Mezitím světově pokročilý zákon o umělé inteligenci (AI) jasně stanoví zakázané činy, jako je zneužívání osobních údajů, systematická diskriminace, používání AI ke škodlivým účelům atd. Proto se navrhuje přidat samostatný článek o zakázaných činech, založený na zásadách: transparentnost, bezpečnost, odpovědnost, lidský dohled, spravedlnost, nediskriminace a podpora kontrolovaných inovací.
Delegátka Národního shromáždění Nguyen Thi Suu (město Hue) vystoupila na dopolední diskuzi 21. listopadu. Foto: Ho Long
Připomínky k návrhu zákona, poslanci Národního shromáždění Nguyen Thi Suu (město Hue) se zaměřila na analýzu předpisů týkajících se infrastruktury, lidských zdrojů a etického rámce umělé inteligence – klíčových pilířů, které určují účinnost implementace zákona v praxi.
Konkrétně v kapitole III (články 17 a 18) upravující infrastrukturu umělé inteligence delegáti uvedli, že plán implementace národní infrastruktury umělé inteligence, role ministerstev, poboček, obcí, jakož i podniků a výzkumných ústavů v procesu výstavby a provozu nebyly jasně definovány. Delegáti navrhli doplnit konkrétní implementační plán s časovými harmonogramy, odpovědnostmi jednotlivých agentur a monitorovacím mechanismem, aby se zajistila proveditelnost po vydání zákona.
Pokud jde o rozvoj lidských zdrojů (článek 24), delegátka Nguyen Thi Suu uvedla, že návrh zákona stanoví pouze cíle, ale neobsahuje skutečný podpůrný mechanismus pro vzdělávací instituce a studenty, jako je financování, mezinárodní vzdělávací standardy nebo společné programy s podniky a výzkumnými ústavy. Proto je nutné doplnit stipendijní politiku, podporovat vzdělávání a prosazovat partnerství veřejného a soukromého sektoru.
Pokud jde o Národní rámec pro etiku umělé inteligence (článek 27), delegáti uvedli, že stávající předpisy jsou pouze principiální a postrádají mechanismy pro monitorování, hodnocení a řešení porušení, což ztěžuje zajištění závaznosti v praxi; zároveň pojem „etika umělé inteligence“ nebyl jasně definován a nestanovil konkrétní odpovědnost organizacím a jednotlivcům v případě porušení. Delegáti proto navrhli změnit v předpisech o aktualizaci etického rámce frázi „přezkoumání“ na „veřejnost“; zároveň doplnit ustanovení o zřízení Národního orgánu pro etiku umělé inteligence odpovědného za monitorování, hodnocení a řešení porušení; stanovit povinnosti dodržování předpisů pro organizace a jednotlivce, kteří vyvíjejí nebo provozují vysoce rizikové systémy umělé inteligence; potvrdit právně závaznou hodnotu Rámce pro etiku umělé inteligence, v němž mohou být porušení předmětem správních nebo trestních sankcí; a podpořit účast společenských organizací, akademické obce a podniků na činnostech budování a hodnocení etiky umělé inteligence. „Pouze po dokončení výše uvedených mechanismů může být Rámec pro etiku umělé inteligence účinný a zajistit, aby se technologie rozvíjela správným směrem, bezpečně a pro lidi,“ zdůraznila delegátka Nguyen Thi Suu.
Jaká je odpovědnost, když umělá inteligence udělá chyby?
V diskusi o návrhu zákona o umělé inteligenci poslanec Národního shromáždění Pham Nhu Hiep (město Hue) uvedl, že umělá inteligence vytváří hluboké změny v oblasti medicíny, od chirurgie a diagnostiky až po vědecký výzkum. Delegát uvedl, že chirurgie na dálku se objevuje již více než 20 let a k dnešnímu dni je mnoho robotických systémů schopno provádět endoskopické operace bez přímého lidského zásahu. S rychlým rozvojem technologií může umělá inteligence, pokud je to možné, zcela převzít některé chirurgické kroky, a dokonce hrozí, že změní tradiční roli chirurgů. V zobrazovací diagnostice se umělá inteligence široce uplatňuje v nemocnicích, včetně centrální nemocnice Hue, kde podporuje čtení rentgenových snímků, CT vyšetření a snímků mozku.
Delegát Národního shromáždění Pham Nhu Hiep (město Hue) vyjádřil své názory na návrh zákona o umělé inteligenci na zasedání skupiny 6. Foto: Ho Long
Delegáti však zdůraznili potřebu odpovědnosti, když umělá inteligence dělá chyby. V současné době musí všechny výsledky umělé inteligence stále kontrolovat a ověřovat lékaři a radiologové. Pokud výsledky neodpovídají klinické realitě, lékař je upraví a aktualizuje, aby se umělá inteligence mohla dále učit. Tento proces „pasivního učení“ uplatňuje mnoho nemocnic, ale stále je zapotřebí jasný právní rámec pro zajištění bezpečnosti pacientů.
Delegát Pham Nhu Hiep rovněž vyjádřil obavy ohledně dopadu umělé inteligence na vědecký výzkum, jelikož software pro kontrolu plagiátorství se stal populárním a některé nástroje umělé inteligence nyní dokáží na základě poskytnutých dat napsat téměř celou doktorskou práci za jediný den. To představuje velkou výzvu pro etiku výzkumu a vědeckou integritu a mělo by se zvážit její začlenění do specializovaných právních předpisů.
Pokud jde o právní odpovědnost poskytovatelů umělé inteligence (článek 13), delegáti navrhli vyjasnit odpovědnou osobu v případech, kdy systémy umělé inteligence způsobí incidenty nebo nehody. Typickým příkladem je případ autonomních vozidel: pokud dojde ke kolizi, je nutné určit odpovědnost systému, výrobce nebo provozní řídicí jednotky. Delegát uvedl nehodu automobilu Tesla v roce 2015, která donutila výrobce zaplatit vysoké odškodnění, a potvrdil, že umělá inteligence nemůže být sama o sobě zodpovědná, ale odpovědnost musí patřit lidem – organizacím a jednotlivcům, kteří systém navrhují, vyrábějí a uvádějí do provozu.
S odkazem na koncept etiky umělé inteligence, který mnoho zemí uplatňuje k určení, jaké činnosti umělé inteligence jsou a které nejsou povoleny, delegát Pham Nhu Hiep rovněž uznal, že v kontextu systémů umělé inteligence, které mají schopnost se samy učit, myslet a dokonce překračovat původní limity výrobce, musí být vývoj a provoz umělé inteligence zasazen do právního a etického rámce. To nejen zajistí bezpečnost společnosti, ale také vytvoří základ pro zdravý rozvoj odvětví umělé inteligence ve Vietnamu.
Pro efektivní řízení umělé inteligence je nutné vyjasnit vstupní data a duševní vlastnictví.
Poslanec Národního shromáždění Trinh Xuan An (Dong Nai) souhlasil s výše uvedenými názory a rovněž přednesl řadu hlubokých komentářů k návrhu zákona o umělé inteligenci, přičemž se zaměřil na hlavní skupiny otázek: vstupní data, duševní vlastnictví, rozsah působnosti, přístup k řízení rizik a model implementační organizace.
Delegát Národního shromáždění Trinh Xuan An (Dong Nai) hovoří na zasedání Skupiny 6 ráno 21. listopadu. Foto: Ho Long
Pokud jde o vstupní data pro umělou inteligenci, delegáti uvedli, že data jsou základem umělé inteligence, ale návrh zákona tento obsah nevyjasnil. Předpisy týkající se dat v současnosti upravuje zákon o ochraně osobních údajů a zákon o ochraně osobních údajů. Pokud to není v tomto zákoně výslovně uvedeno, musí existovat alespoň úplný odkaz. Delegáti souhlasili s požadavkem, že data musí být „správná – dostatečná – čistá – aktivní“, ale zdůraznili potřebu doplnit kritérium, že data musí být systematizována a neustále aktualizována, protože to je podmínkou pro efektivní a bezpečné fungování umělé inteligence.
Pokud jde o duševní vlastnictví, člen Národního shromáždění Trinh Xuan An poznamenal, že obsah návrhu je stále příliš nejasný, zatímco umělá inteligence je lidským produktem a je úzce spjata s otázkami autorských práv, vlastnictví, právní odpovědnosti a etiky. Pokud nebude v zákoně vyjasněna složka duševního vlastnictví, bude správa umělé inteligence velmi obtížná. Delegát proto doporučil novelizovat zákon o duševním vlastnictví a zároveň v tomto zákoně upravit otázky vlastnictví.
Pokud jde o rozsah působnosti, delegát poukázal na nelogičnost v článku 1, kdy zákon vylučuje použití umělé inteligence pro národní obranu, bezpečnost, kryptografii a zpravodajství, ale následující ustanovení otevírají možnost úpravy, pokud budou tyto systémy použity pro jiné účely. V digitálním prostředí je obtížné oddělit umělou inteligenci pro bezpečnostní a obranné účely a civilní účely, protože umělá inteligence může současně podporovat lékařství, obranný průmysl nebo bezpilotní systémy. Vyloučení podle oblasti proto není proveditelné. Delegát navrhl vytvoření společného regulačního rámce namísto rozdělení podle účelu použití.
Poslanci Národního shromáždění provincie Dong Nai na diskusním zasedání skupiny 6 ráno 21. listopadu. Foto: Ho Long
Pokud jde o přístup k řízení a klasifikaci rizik, delegát uvedl, že návrh „aplikuje“ evropský model řízení, což vytváří zbytečnou zátěž v kontextu potřeby Vietnamu podporovat rozvoj umělé inteligence. Čtyřúrovňová klasifikace rizik, jak je uvedena v návrhu, je složitá a v rozporu se zákonem o jakosti výrobků. Delegát navrhl klasifikovat pouze dvě skupiny: rizikové a bezrizikové produkty umělé inteligence a kombinovat řízení rizik s řízením založeným na efektivitě výstupu a ekonomickém dopadu. Dále uvedl, že nařízení, které by podnikům umožňovalo samohodnotit rizika a pověřovalo vládu stanovením kritérií, je „polo-uzavřené, polootevřené“ a v praxi obtížně implementovatelné.
Pokud jde o model organizace implementace, poslanec Národního shromáždění Trinh Xuan An vyjádřil obavy ohledně návrhu na zřízení mimorozpočtového finančního fondu a Národního výboru pro umělou inteligenci. Podle delegáta je nutné pečlivě zvážit nezbytnost těchto institucí a vyhnout se situaci, kdy se „zřizují fondy a výbory pro všechno“, ale s nízkou efektivitou. Pokud je to skutečně nutné, měl by být fond pro umělou inteligenci integrován do stávajících fondů, s výjimkou zvláštních případů, jako jsou fondy sloužící národní obraně a bezpečnosti. Delegát rovněž poznamenal, že umělá inteligence musí být propojena s ekonomickými aktivitami a iniciativou podniků, takže je třeba model řízení zefektivnit a orientovat na skutečnou efektivitu.
Delegát Národního shromáždění Bui Xuan Thong (Dong Nai)
Poslanci Národního shromáždění Nguyen Thi Nhu Y a Bui Xuan Thong (Dong Nai) souhlasili s výše uvedeným názorem a zdůraznili také etický rámec při používání umělé inteligence. Podle delegáta Bui Xuan Thonga, pokud je stanoveno, že uživatelé musí být zodpovědní za rozhodnutí učiněná umělou inteligencí, pak je ve skutečnosti konečné rozhodnutí stále lidské. Umělá inteligence je pouze nástrojem k poskytování referenčních informací. Osoba, která činí konečné rozhodnutí, je za toto rozhodnutí zodpovědná. Etický rámec by se proto měl zaměřit na lidskou odpovědnost při používání informací z umělé inteligence, nikoli na stanovení, že umělá inteligence musí být zodpovědná.
Pokud jde o otázku řešení porušení předpisů, delegáti uvedli, že návrh obecně uvádí, že je lze řešit administrativně, občanskoprávně nebo trestněprávně, ale není jasný ohledně mezí odpovědnosti. Proto se doporučuje jasně definovat, které chování bude podléhat trestní odpovědnosti, které chování bude podléhat administrativní odpovědnosti a konkrétní odpovědnosti poskytovatele, vývojáře a uživatele. Zároveň je také nutné doplnit zakázané chování a tento rámec přepracovat tak, aby byl jasný, a to jak za účelem vytvoření podmínek pro rozvoj umělé inteligence, tak za účelem jasného definování odpovědnosti příslušných stran.
Zdroj: https://daibieunhandan.vn/artificial-intelligence-must-operate-in-the-law-and-moral-system-10396524.html
Komentář (0)