Používání systémů umělé inteligence k vytváření falešného obsahu, který ohrožuje národní bezpečnost, je zakázáno.

Odpoledne 10. prosince schválilo Národní shromáždění zákon o umělé inteligenci, přičemž pro něj hlasovalo 429 ze 434 přítomných delegátů (což odpovídá 90,7 % z celkového počtu delegátů Národního shromáždění).

Zákon o umělé inteligenci se skládá z 8 kapitol a 35 článků, které upravují výzkum, vývoj, poskytování, nasazení a používání systémů umělé inteligence; práva a povinnosti příslušných organizací a jednotlivců; a státní řízení činností v oblasti umělé inteligence ve Vietnamu. Činnosti v oblasti umělé inteligence výhradně pro účely národní obrany, bezpečnosti a kryptografie nejsou tímto zákonem upraveny.

Výsledky hlasování o schválení zákona o umělé inteligenci. (Foto: DUY LINH)

4 základní principy operací s umělou inteligencí

Podle zákona, který nedávno schválilo Národní shromáždění, musí činnosti umělé inteligence zajišťovat dodržování čtyř základních principů, mezi které patří:

Stavit lidi do centra pozornosti, zajistit lidská práva, právo na soukromí, národní zájmy, veřejné zájmy a národní bezpečnost; dodržovat Ústavu a zákony.

Umělá inteligence slouží lidstvu, nenahrazuje lidskou autoritu a odpovědnost. Zajišťuje zachování lidské kontroly a schopnost zasahovat do všech rozhodnutí a chování systému umělé inteligence; bezpečnost systému, bezpečnost dat a důvěrnost informací; a schopnost kontrolovat a monitorovat vývoj a provoz systému.

Zajištění spravedlnosti, transparentnosti, nestrannosti, nediskriminace a nepoškozování jednotlivců ani společnosti; dodržování vietnamských etických standardů a kulturních hodnot; a odpovědnost za rozhodnutí a důsledky systému.

Podpora rozvoje zelené, inkluzivní a udržitelné umělé inteligence; podpora vývoje a aplikace technologií umělé inteligence, které jsou energeticky účinné, šetří zdroje a snižují negativní dopady na životní prostředí.

Klasifikace a správa systémů umělé inteligence na základě rizika.

Zákon o umělé inteligenci stanoví klasifikaci a řízení systémů umělé inteligence podle tří úrovní rizika: vysoká, střední a nízká.

Vysoce rizikové systémy umělé inteligence jsou ty, které mohou způsobit značnou újmu na životech, zdraví, oprávněných právech a zájmech organizací a jednotlivců, národních zájmech, veřejných zájmech a národní bezpečnosti;

Systém umělé inteligence se středním rizikem je takový, který má potenciál zmást, ovlivnit nebo manipulovat uživatele, protože nejsou schopni rozpoznat, že interagující entita je systém umělé inteligence nebo obsah, který generuje;

Zbývající systémy umělé inteligence jsou ty s nízkým rizikem.

Klasifikace rizik systémů umělé inteligence se určuje na základě kritérií, jako je úroveň dopadu na lidská práva, bezpečnost a ochranu; oblast použití systému, zejména zásadní oblasti nebo oblasti přímo související s veřejným zájmem; rozsah uživatelů; a rozsah vlivu systému.

Ministr vědy a technologií Nguyen Manh Hung předkládá zprávu o přijetí, vysvětlení a revizi návrhu zákona před hlasováním Národního shromáždění. (Foto: DUY LINH)

Zakázané chování v operacích s umělou inteligencí

Zákon o umělé inteligenci rovněž stanoví zakázané činy v oblasti umělé inteligence, konkrétně:

Využívání nebo únos systémů umělé inteligence k páchání nezákonných činů a porušování oprávněných práv a zájmů organizací a jednotlivců.

Vývoj, poskytování, nasazení nebo používání systémů umělé inteligence za účelem: páchání činů zakázaných zákonem; používání zfalšovaných nebo simulovaných skutečných osob nebo událostí k úmyslnému a systematickému klamání nebo manipulaci s lidským vnímáním a chováním, což způsobuje vážnou újmu na lidských právech a oprávněných zájmech; zneužívání slabin zranitelných skupin, včetně dětí, starších osob, osob se zdravotním postižením, etnických menšin nebo osob se sníženou občanskou způsobilostí nebo osob s kognitivními obtížemi nebo problémy s kontrolou chování, k poškození sebe nebo jiných; vytváření nebo šíření zfalšovaného obsahu, který by mohl vážně ohrozit národní bezpečnost, veřejný pořádek a sociální bezpečnost.

Shromažďování, zpracování nebo používání dat za účelem vývoje, školení, testování nebo provozu systémů umělé inteligence v rozporu se zákony o datech, ochraně osobních údajů, duševním vlastnictví a kybernetické bezpečnosti.

Maření, znemožňování nebo narušování lidských mechanismů pro monitorování, zasahování a řízení systémů umělé inteligence, jak je stanoveno v tomto zákoně.

Zatajování informací, které musí být zveřejněny, zveřejněny nebo vysvětleny; mazání nebo falšování povinných informací, štítků nebo varování v operacích umělé inteligence.

Využívání výzkumných, testovacích, hodnotících nebo ověřovacích činností souvisejících se systémy umělé inteligence k jednání, které porušuje zákon.

VAN TOAN

Zdroj: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html