Rozvíjejte technologie, podporujte inovace, ale nenechte rizika překročit hranice možností

Schůzi předsedal místopředseda Národního shromáždění Le Minh Hoan. Foto: Ho Long

Odpoledne 27. listopadu projednalo Národní shromáždění pod vedením místopředsedy Národního shromáždění Le Minh Hoana v zasedací síni návrh zákona o umělé inteligenci.

Nedostatek předpisů o odškodnění a pojistné odpovědnosti

Pokud jde o článek 20 návrhu zákona o mechanismu kontrolovaného testování pro vývoj umělé inteligence, člen Národního shromáždění Hoang Minh Hieu ( Nghe An ) uvedl, že hlavním účelem mechanismu kontrolovaného testování umělé inteligence (AI) je odstranit právní překážky, které brání modelům AI, a umožnit omezené testování za účelem získání dat prokazujících účinnost, a tím podpořit dlouhodobou regulační reformu. Tento přístup je také velmi v souladu s naším současným legislativním myšlením, které spočívá v tom, že instituce musí nejprve vydláždit cestu pro rozvoj.

Hovoří poslanec Národního shromáždění Hoang Minh Hieu (Nghe An). Foto: Quang Khanh

Delegát zdůraznil, že právní rámec pro umělou inteligenci musí vést k regulaci mechanismů kontrolovaného testování, takže navrhovatel musí tuto otázku v návrhu zákona podrobněji prozkoumat a regulovat.

Delegát proto navrhl přezkoumat předpisy týkající se organizací a jednotlivců účastnících se kontrolovaných studií, kteří jsou osvobozeni od povinnosti dodržování předpisů nebo jimž jsou některé povinnosti omezeny, jak je stanoveno v článku 20 odstavci 2 návrhu zákona. Takové předpisy vedou k tomu, že rozsah osvobození je omezen na ustanovení tohoto zákona, zatímco systémy umělé inteligence často souvisejí s mnoha dalšími relevantními právními ustanoveními.

Delegáti zmínili mechanismus testování umělé inteligence v samořídících osobních letadlech v Japonsku, který je vyňat z některých pravidel týkajících se zajištění bezpečnosti letectví. Nebo testování samořídících automobilů v Číně a Japonsku, které je vyňato z ustanovení zákona o ochraně osobních údajů, který spočívá v používání obrazových dat bez nutnosti rozmazávání obličejů účastníků provozu k trénování a procvičování zraku umělé inteligence.

Na základě zkušeností jiných zemí delegáti navrhli, aby agentura odpovědná za vypracování studie pouze v článku 20 bodu 2 stanovila, že organizace a jednotlivci účastnící se kontrolovaných studií jsou osvobozeni od některých povinností v oblasti dodržování předpisů stanovených tímto zákonem a dalšími příslušnými zákony nebo jsou z nich zbaveni.

Delegáti účastnící se schůze. Foto: Ho Long

Článek 20, odstavec 5, pověřuje státní úřad pro správu umělé inteligence organizací příjmu, hodnocení a zpracování dokumentace pro účast na kontrolovaných testovacích činnostech v souladu s procesem hodnocení a rychlé reakce.

Delegát Hoang Minh Hieu poznamenal, že systémy umělé inteligence nejsou jen otázkami souvisejícími s technologií, algoritmy..., ale také multidisciplinárními a interdisciplinárními otázkami. Ustanovení v článku 5 jsou proto pravděpodobně vhodná pouze pro univerzální systémy umělé inteligence, jako je generativní umělá inteligence (ChatGPT, Gemini)... Pokud jde o specializované systémy umělé inteligence, je zde interdisciplinární povaha velmi vysoká.

S odkazem na systém DrAid, produkt umělé inteligence podporující diagnostiku pomocí lékařského zobrazování, který vyvinula společnost VinBrain, delegát Hoang Minh Hieu uvedl, že pokud je systém registrován k testování, je nemožné, aby ministerstvo zdravotnictví nemělo monitorovací a řídicí roli. V některých zemích je proto hodnocení a licencování kontrolovaného testování systémů umělé inteligence svěřeno interdisciplinární radě.

Delegáti navrhli revidovat ustanovení v článku 20 odstavce 5 návrhu zákona tak, aby znělo „státní orgán pro umělou inteligenci řídí a koordinuje činnost příslušných orgánů státní správy při organizaci příjmu, hodnocení a zpracování dokumentace pro účast na kontrolovaných testovacích činnostech“.

Delegát rovněž uvedl, že ustanovení článku 20 návrhu zákona stále postrádají ustanovení o odškodnění a odpovědnosti za pojištění. A nezmiňuje se v něm, kdo je odpovědný, pokud test způsobí škodu třetí straně. Podle obecné zásady musí testovací organizace nebo jednotlivec zaplatit občanskoprávní odškodnění, pokud způsobí škodu. Delegát Hoang Minh Hieu proto navrhl zvážit doplnění tohoto ustanovení do návrhu zákona.

Veškerý software umělé inteligence provozovaný ve Vietnamu musí být vybaven „ standardní lidskou základní databází “.

Poslanec Národního shromáždění Tran Van Lam (Bac Ninh) vysoce ocenil návrh zákona za definování principu, který staví člověka do centra pozornosti, klasifikaci a kontrolu rizik, kontrolu vysoce rizikových systémů umělé inteligence a rozvoj národní výpočetní a datové infrastruktury. Jedná se o progresivní právní rámec, který je v souladu s mezinárodními trendy.

Poslanec Národního shromáždění Tran Van Lam (Bac Ninh) hovoří. Foto: Ho Long

Aby však byl zákon skutečně úplný a měl dlouhodobou vizi, delegát navrhl klíčové doplnění: Považovat umělou inteligenci za „novorozenou lidskou bytost“. Za „inteligentní, ale nevinnou entitu“: neznající zákony, nerozumící etice a etiketě, nemající žádné kulturní hodnoty a nerozlišující mezi dobrem a zlem, pokud se to neučí.

„Pokud budeme umělou inteligenci považovat za nově vznikající entitu, naší odpovědností není jen ji kontrolovat, ale také ji od začátku učit, jako učíme dítě o standardních lidských hodnotách. A to by mělo být v tomto zákoně povinné ustanovení, nikoli jen doporučení,“ řekl delegát Tran Van Lam.

Delegáti navrhli, aby Národní shromáždění do zákona doplnilo právní princip: „Veškerý software umělé inteligence provozovaný ve Vietnamu, ať už vyvinutý domácími nebo zahraničními organizacemi, musí být vybaven standardní lidskou databází .“

Podle delegáta musí „standardní databáze lidských základů“ obsahovat dostatek informací, aby umělá inteligence porozuměla vietnamskému právu; naučila umělou inteligenci etickým standardům, kultuře a dobrým tradicím národa; naučila umělou inteligenci schopnost rozlišovat správné a špatné, standardní a nestandardní; limity chování, které nesmí být překročeny, a pravidla pro identifikaci rizik pro člověka. A co je nejdůležitější, musí zajistit, aby tato databáze základních systémů měla vždy absolutní prioritu při řízení chování umělé inteligence; nesmí být přepsána, nahrazena ani deaktivována žádným jiným algoritmem nebo trénovacími daty. Toto je právní a technický „zlatý prsten“ , který zajišťuje, že umělá inteligence se neztratí.

Aby bylo možné tuto orientaci efektivně realizovat, delegáti navrhli, aby se Ministerstvo vědy a technologií ujalo vedení při budování jednotné, standardizované a průběžně aktualizované databázové platformy „Being Vietnamese“ a aby ji vývojářům umělé inteligence poskytovalo jako povinný požadavek. Vláda by měla vyvinout silnou národní výpočetní infrastrukturu, která zajistí, že vietnamská umělá inteligence bude vyškolena na vietnamských hodnotách a nebude závislá na zahraničních modelech.

Zároveň vybudovat Národní testovací centrum pro umělou inteligenci, které by včas posuzovalo deviantní chování, kontrolovalo vysoce rizikové modely a neprodleně zasahovalo, když se objeví náznaky překračování limitů. Podporovat vzdělávání v oblasti umělé inteligence v celé společnosti se zaměřením na pomoc lidem, firmám a zejména veřejnému sektoru, aby měli kapacitu správně identifikovat, používat a monitorovat umělou inteligenci.

Delegát Tran Van Lam zdůraznil: „Dnešní zákon o umělé inteligenci není jen technologickým zákonem, ale zákonem budoucnosti; závazkem Národního shromáždění vůči lidu. Vyvíjíme technologie, ale neztrácíme kontrolu; podporujeme inovace, ale nedovolíme, aby rizika překročila náš dosah. A rozvíjíme umělou inteligenci s vietnamskými hodnotami, aby sloužila vietnamskému lidu.“

Zdroj: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html