Předpisy by měly být otevřené.
V pokračování desátého zasedání projednalo Národní shromáždění dopoledne 21. listopadu ve skupinách návrh zákona o umělé inteligenci.
Delegáti, kteří se vyjádřili ve 4. skupině (včetně delegací Národního shromáždění z provincií Khanh Hoa , Lai Chau a Lao Cai), v zásadě souhlasili s nutností vyhlášení zákona.
Podle poslance Národního shromáždění Nguyen Huu Toana ( Lai Chau ) je v současné době velmi důležité vyhlášení zákona o umělé inteligenci (AI). „Provedli jsme relativně dobré přípravy na předložení tohoto zákona Národnímu shromáždění.“
Poslanec Národního shromáždění Nguyen Thi Lan Anh (Lao Cai) uvedl, že v současné době jen velmi málo zemí vydalo zákon o umělé inteligenci, takže odkazy na něj v procesu vyhlašování zákona jsou také omezené. „To však neznamená, že bychom jej neměli vyhlásit,“ zdůraznil delegát.
Delegát Nguyen Thi Lan Anh však poznamenal, že při vyhlašování zákona je třeba zohlednit faktor „otevřenosti“, protože technologie se neustále vyvíjejí den ode dne, hodinu od hodiny. „Pokud bude zákon vyhlášen v úzkém rámci, nebudeme schopni bez opatrnosti podporovat oblast inovativních technologií.“
Zvažte státní předpisy, které zaručí právo na využívání výhod umělé inteligence
V konkrétních komentářích delegát Nguyen Huu Toan uvedl, že návrh zákona stanoví subjekty působnosti (článek 2) jako: vietnamské agentury, organizace, jednotlivce a zahraniční organizace a jednotlivce, kteří se zabývají vývojem, poskytováním, nasazováním a používáním systémů umělé inteligence ve Vietnamu nebo mají systémy umělé inteligence, které produkují výsledky, používané ve Vietnamu .
Rozsah regulace (odstavec 2, článek 1) však stanoví: Tento zákon se nevztahuje na systémy umělé inteligence vyvíjené, poskytované, nasazené a používané výhradně pro obranné, bezpečnostní, zpravodajské a kryptografické účely.
Podle delegáta musí implementace tohoto zákona i nadále zajistit národní obranu a bezpečnost, protože do Vietnamu jsou dodávány produkty umělé inteligence zpoza hranic.
Návrh zákona by proto neměl považovat „systémy umělé inteligence vyvíjené, poskytované, nasazené a používané výhradně pro obranné, bezpečnostní, zpravodajské a kryptografické účely“ za bod vyloučení. Místo toho by měl být upraven tak, aby výzkum, vývoj, poskytování, nasazení a používání systémů umělé inteligence pro obranné, bezpečnostní, zpravodajské a kryptografické účely bylo svěřeno Ministerstvu národní obrany nebo Ministerstvu veřejné bezpečnosti, které mu bude poskytovat pokyny.
Také v článku 2, článku 1, se stanoví: Tento zákon se nevztahuje na systémy umělé inteligence ani na modely umělé inteligence vyvíjené, poskytované, nasazené a používané pouze v rámci interního rozsahu vědeckého výzkumu, vzdělávání a vývojových zařízení a nebyly uvedeny do provozu ani poskytnuty třetím stranám.
Delegát Nguyen Huu Toan schválil, že systémy umělé inteligence používané v rámci výzkumných zařízení nepodléhají zákonu, a poznamenal, že pokud systém porušuje zákon, musí být s ním vyřešen.
Ve skutečnosti existují velmi malé interní systémy, ale také velmi velké interní systémy. „Interní užívání musí splňovat podmínky a předpisy“ a zákon musí mít předpisy, zdůraznil delegát.
Návrh zákona konkrétně stanoví osm státních politik v oblasti umělé inteligence (článek 5). Zastupitelka Nguyen Huu Toan s těmito politikami v zásadě souhlasila a navrhla, že je třeba některé body vyjasnit.
Konkrétně článek 5, odstavec 3, stanoví: Stát zajišťuje právo organizací a jednotlivců na přístup k umělé inteligenci, na vzdělávání a využívání jejích výhod; podporuje rozvoj komplexní a inkluzivní digitální společnosti.
Podle delegáta je vhodné, aby stát zaručil právo na přístup k umělé inteligenci. Aby však uživatelé mohli využívat výhod umělé inteligence, musí také vynaložit vlastní peníze na investice a její uplatnění ve výrobním a obchodním prostředí...; stát není povinen toto plně zaručit. Proto je nutné toto nařízení odpovídajícím způsobem revidovat.
Pokud jde o úroveň rizika systémů umělé inteligence, článek 7 návrhu zákona je rozděluje na 4 typy: nepřijatelné riziko, vysoké riziko, střední riziko a nízké riziko.
Souhlasím s touto klasifikací, ale podle delegáta Nguyen Huu Toana je její aplikace v praxi u různých cílových skupin odlišná. Například existuje typ středního rizika, které nepostihuje dospělé, ale postihuje děti; nebo v oblastech s horšími podmínkami přístupu se stává vysokým rizikem...
Delegáti proto navrhli, aby byl každý typ rizika jasně definován a aplikován na každý subjekt a aby existovala varování, například aby existovaly deštníky s nízkým rizikem, které jsou poskytovány pouze dospělým, nikoli dětem.
Vybudování monitorovacího a varovného systému pro incidenty
Jedna z otázek, která delegáty velmi zajímá, se týká řízení a řešení incidentů umělé inteligence. Návrh zákona definuje: Vážný incident je technický incident v činnostech umělé inteligence, který způsobuje nebo hrozí způsobením vážných následků pro lidský život, zdraví, majetek, data, bezpečnost nebo společenský pořádek.
Delegátka Nguyen Thi Lan Anh analyzovala, že v lékařské oblasti existuje mnoho různých úrovní, a totéž platí pro bezpečnost.
„Jaký je tedy postup pro posouzení tohoto incidentu? Která strana, který mechanismus bude informovat? Protože existují věci, které jsou velmi nebezpečné, když se objeví až po incidentu. Zejména v oblasti lékařství, která přímo souvisí s lidským životem.“
Když delegát Nguyen Thi Lan Anh nastolil tuto otázku tímto způsobem, řekl, že musíme navrhnout procesní systém. Za prvé, musíme hovořit o procesu zpracování, kdo jej zpracovává a na jaké úrovni bude existovat varování. Za druhé, musí existovat systém monitorování a včasného varování. To je velmi důležité a pokud chceme včasné varování, musíme zajistit vstupní data.
Také podle delegáta Nguyen Thi Lan Anha musí být otázka odpovědnosti velmi jasná: je to odpovědnost vývojáře modelu, řídící agentury nebo koncového uživatele?
Stručně řečeno, podle delegátů je nutné klasifikovat a definovat specifické typy incidentů umělé inteligence. Vybudovat systém monitorování a varování pro incidenty; specifikovat proces řešení podle každé skupiny úrovní rizika, zvýšit technickou a právní podporu příslušných stran; a jasněji definovat právní odpovědnost související s kompenzačními mechanismy. Tím se zajistí jak bezpečnost, tak i bezpečnost sítě.
Článek 10, odstavec 2 návrhu zákona stanoví: V případě závažného incidentu systému umělé inteligence je vývojář systému, dodavatel a strana implementující systém umělé inteligence odpovědná za: a) Vývojář systému a dodavatel musí neprodleně použít technická opatření k opravě, pozastavení nebo zrušení systému a informovat příslušný orgán; b) Implementující strana a uživatel jsou povinni incident neprodleně zaznamenat a oznámit a koordinovat proces nápravy.
„Co když je incident méně závažný?“ V reakci na tuto otázku delegát Nguyen Huu Toan navrhl, aby existovalo varování, a ne aby se s řešením čekalo, až se incident stane vážným. Protože při aplikaci umělé inteligence, pokud dojde k incidentu na závažné úrovni, je rychlost šíření velmi vysoká a vysoká.
Delegát Nguyen Huu Toan navrhl, že pod touto úrovní by měla být dostupná varování pro uživatele a dodavatele. „Monitorování a kontrola používání umělé inteligence je v nadcházející době nesmírně důležité pro zajištění bezpečnosti, pořádku, sociálního bezpečí a také štěstí pro všechny,“ dodal delegát.
Pokud jde o etické otázky v oblasti umělé inteligence, návrh zákona jasně stanoví národní etický rámec pro umělou inteligenci (článek 27) a etické odpovědnosti a posouzení dopadů při jejím uplatňování ve veřejném sektoru (článek 28).
„Jak se to tedy vypočítává pro soukromý sektor nebo jiné oblasti, které mají dopad na lidi nebo jiné agentury a politiky?“
Delegát Nguyen Thi Lan Anh navrhl, že je nutné rozšířit etickou odpovědnost i na soukromý sektor a požadovat od podniků, aby veřejně vypracovaly interní etický kodex; jasně rozlišovat etické principy a právní povinnosti, aby byla zajištěna konzistence a proveditelnost jejich uplatňování.
Zároveň je třeba, aby návrh zákona doplnil základní etické principy, jako jsou: respekt k lidem, spravedlnost, transparentnost, a zavedl povinné mechanismy posuzování dopadů pro vysoce rizikové systémy umělé inteligence.
Zdroj: https://daibieunhandan.vn/du-an-luat-tri-tue-nhan-tao-mo-rong-trach-nhiem-dao-duc-sang-khu-vuc-tu-nhan-10396512.html
Komentář (0)