Zacházejte s umělou inteligencí jako s „novorozeným člověkem“ a učte ji jako dítě.

Národní shromáždění 27. listopadu v jednacím sále projednalo návrh zákona o umělé inteligenci (AI). Delegát Tran Van Lam (delegace Bac Ninh) uvedl, že AI má nyní hluboký vliv, ne menší než kterýkoli jiný vynález v historii, přináší vynikající produktivitu, podporuje zdravotnictví a vzdělávání, zlepšuje prognostické schopnosti a otevírá nebývalý prostor pro inovace. Zároveň však představuje pro každou zemi velké výzvy.

Přehled setkání (Foto: Quang Vinh)

Podle pana Lama,   Existují velmi reálná a aktuální rizika, jako například: umělá inteligence je zneužívána k falšování a manipulaci s informacemi, podvodům a způsobování sociálního rozdělení; nahrazování práce a zvyšování nerovnosti; zkreslování kulturních a intelektuálních hodnot; a ohrožování národní bezpečnosti, obrany a digitální suverenity .

Nejvíce znepokojivá věc ,   Pane Lame   strach   Nejde o to, co dělá umělá inteligence na lidský povel, ale o to, co dokáže, když je mimo lidskou kontrolu. Z vědeckého hlediska, pokud si jednoho dne umělá inteligence vytvoří vlastní cíle, bude interpretovat úkoly způsobem, který není v souladu s lidskými zájmy, nebo dokonce bude lidi považovat za „rizika“, co se stane? Mohl by vzniknout superinteligentní systém, který bude v optimalizačním algoritmu vnímat lidi pouze jako „proměnné“?  

„ Sci-fi příběhy o umělé inteligenci, která dominuje lidem, nás nemají strašit, ale připomínat nám, že jakýkoli umělý pokrok může zradit svůj původní účel, pokud není od začátku navržen se zdravými etickými hodnotami. A historie dokázala, že jakákoli technologie, když se vymkne kontrole, může mít následky, za které lidstvo musí draze zaplatit ,“ řekl pan Lam.

Tato rizika ukazují na naléhavost vytvoření dostatečně silného právního rámce pro to, aby se umělá inteligence mohla rozvíjet správným směrem a bezpečně pro společnost.   Proto   Aby byl zákon skutečně úplný a vizionářský, pan Lam navrhl klíčový dodatek: považovat umělou inteligenci za „novorozenou lidskou bytost“. Intelektuální entitu, ale stále nevinnou .   neznalost zákonů, nepochopení etiky a etikety, absence kulturních hodnot a nerozlišování mezi dobrem a zlem, pokud se to neučí.   S ohledem na to, pokud považujeme umělou inteligenci za nově vznikající entitu, je naší odpovědností nejen ji kontrolovat, ale také ji od začátku učit, stejně jako učíme dítě o standardních lidských hodnotách. A toto by mělo být v tomto zákoně povinné ustanovení, nikoli pouze doporučení.

Z   tam,   Pan Lam navrhl, aby Národní shromáždění doplnilo tento zákon o následující právní principy:    Jakýkoli software umělé inteligence provozovaný ve Vietnamu, ať už vyvinutý domácími nebo zahraničními organizacemi, musí být vybaven standardní databází lidských zdrojů. Tato databáze musí obsahovat dostatek informací, aby umělá inteligence porozuměla vietnamskému právu, naučila ji etickým standardům, kultuře a dobrým tradicím národa a naučila ji rozlišovat správné od špatného, ​​standard od standardu. Limity chování nesmí překročit pravidla pro identifikaci rizik pro lidi. A co je nejdůležitější, musí se ujistit, že tato databáze má vždy absolutní prioritu při řízení chování umělé inteligence; nesmí být přepsána, nahrazena ani deaktivována žádným jiným algoritmem nebo trénovacími daty. Toto je právní a technický „zlatý prsten“, který zajišťuje, že umělá inteligence se neztratí.

Pro efektivní implementaci této orientace pan Lam rovněž doporučil, aby se Ministerstvo vědy a technologií ujalo vedení při budování databázové platformy „Being Vietnamese“ – jednotné, standardizované a průběžně aktualizované; a aby ji vývojářům umělé inteligence poskytovalo jako povinný požadavek. Vláda by měla vybudovat silnou národní výpočetní infrastrukturu, která by zajistila, že vietnamská umělá inteligence bude vyškolena na vietnamských hodnotách a nebude závislá na zahraničních modelech. Měla by vybudovat Národní testovací centrum pro umělou inteligenci, které by včas posuzovalo deviantní chování, kontrolovalo vysoce rizikové modely a včas zasahovalo, když se objeví náznaky překračování limitů. Měla by propagovat vzdělávání v oblasti umělé inteligence v celé společnosti se zaměřením na pomoc lidem, firmám a zejména veřejnému sektoru, aby byli schopni umělou inteligenci správně identifikovat, používat a monitorovat.

Zároveň se svět dívá na to, jak lidstvo vstupuje do éry umělé inteligence příliš rychle, zatímco globální právní rámec s tím ještě nestíhá. Podobně jako Hanojská úmluva o prevenci kyberkriminality bude svět potřebovat mezinárodní úmluvu o bezpečnosti umělé inteligence, která by stanovila společné standardy, zabránila tomu, aby se rizika vymkla kontrole, a chránila lidská práva tváří v tvář rozvoji umělé inteligence. Vietnam se s proaktivní, opatrnou a humánní vizí může bezpochyby ujmout vedení při navrhování a vedení této iniciativy.

„Dnešní zákon o umělé inteligenci není jen technologickým zákonem, ale zákonem budoucnosti; závazkem Národního shromáždění vůči lidu: vyvíjíme technologie, ale neztrácíme kontrolu; podporujeme inovace, ale nedovolíme, aby rizika překročila náš dosah; a rozvíjíme umělou inteligenci s vietnamskými hodnotami, abychom sloužili vietnamskému lidu,“ řekl pan Lam.

Viet Thang - Trung Hieu

Zdroj: https://daidoanket.vn/hay-coi-ai-nhu-mot-con-nguoi-moi-sinh-va-day-ai-nhu-mot-dua-tre.html