Výzkum a vývoj odpovědných systémů umělé inteligence.

Podle Ministerstva vědy a technologií se v souladu s obecným světovým trendem odhaduje, že systémy umělé inteligence přinesou velký přínos lidem, společnosti a vietnamské ekonomice prostřednictvím podpory a řešení složitých problémů, kterým lidé a komunity čelí. Spolu s tímto procesem je nezbytné zkoumat a přijímat opatření k minimalizaci rizik v procesu vývoje a používání umělé inteligence a vyvažovat související ekonomické, etické a právní faktory. Specializované agentury proto musí zkoumat a vyvíjet standardy a směrnice, které je budou vodítkem, i když se bude jednat o nezávazné a nezávazné předpisy.

V pokynech Ministerstvo vědy a technologií stanoví devět zásad výzkumu a vývoje odpovědných systémů umělé inteligence.

Zaprvé, duch spolupráce a podpora inovací: Vývojáři musí zvážit propojení a interoperabilitu mezi svými systémy umělé inteligence a dalšími systémy umělé inteligence s ohledem na rozmanitost systémů, aby zvýšili výhody systému a zároveň posílili koordinaci pro kontrolu rizik.

Za druhé, transparentnost: Systémy umělé inteligence, které splňují tuto zásadu, jsou často systémy, které mohou ovlivnit život, tělo, soukromí nebo majetek uživatelů nebo souvisejících třetích stran. V tomto případě musí vývojáři věnovat pozornost schopnosti jasně identifikovat vstupy a výstupy systému, jakož i související vysvětlitelnosti na základě charakteristik použité technologie a způsobu jejich použití, aby byla zajištěna důvěra společnosti, včetně uživatelů.

Za třetí, ovladatelnost: Pro posouzení rizik spojených s ovladatelností systému musí vývojáři provést předběžné posouzení, zda systém splňuje příslušné technické požadavky a normy. Jednou z metod posouzení rizik je testování v odděleném prostoru s bezpečnostními opatřeními před jeho uvedením do praxe.

Za čtvrté, princip bezpečnosti: Vývojáři musí zajistit, aby systém umělé inteligence nezpůsobil újmu na životě, těle ani majetku uživatelů nebo třetích stran, a to ani prostřednictvím zprostředkovatelů.

5. Bezpečnostní zásady: Kromě dodržování dokumentů, pokynů a implementace předepsaných opatření v oblasti informační bezpečnosti musí vývojáři věnovat pozornost bodům, jako jsou: Spolehlivost a odolnost vůči fyzickým útokům nebo haváriím systému; důvěrnost; integrita; a dostupnost potřebných informací týkajících se informační bezpečnosti systému...

6. Soukromí: Vývojáři musí zajistit, aby systémy umělé inteligence nenarušovaly soukromí uživatelů ani třetích stran. Soukromí zahrnuje prostorové soukromí (klid v osobním životě), informační soukromí (osobní údaje) a důvěrnost komunikace. Vývojáři musí uplatňovat aktuální předpisy a směrnice; lze se seznámit s mezinárodními standardy a směrnicemi týkajícími se soukromí.

Vývojáři by měli provést předběžné posouzení rizik pro soukromí a provést předběžné posouzení dopadů na soukromí. V maximální možné míře přijmout opatření odpovídající charakteristikám použité technologie v celém procesu vývoje systému, aby se zabránilo narušení soukromí při jejím uvedení do provozu.

Za sedmé, respekt k lidským právům a důstojnosti: Při vývoji systémů umělé inteligence, které zahrnují lidi, musí vývojáři dbát zvláštní pozornosti na respektování lidských práv a důstojnosti zúčastněných osob. V maximální možné míře a v závislosti na charakteristikách použité technologie by vývojáři měli přijmout opatření, která zajistí, že při trénování systému nedojde k diskriminaci a nespravedlnosti v důsledku zkreslení dat.

Vývojáři musí přijmout opatření, aby zajistili, že systém neporušuje lidské hodnoty a společenskou etiku v souladu se základními principy Vietnamu (například hodnoty jako vlastenectví, solidarita, soběstačnost, loajalita, čestnost, odpovědnost, disciplína, kreativita atd.).

8. podpora uživatelů: Pro podporu uživatelů musí vývojáři systémů věnovat pozornost bodům, jako jsou: Vytváření připravených rozhraní pro poskytování včasných a vhodných informací, které uživatelům pomohou s rozhodováním a pohodlným používáním; implementace opatření pro usnadnění používání systému zranitelnými osobami ve společnosti (senioři, osoby se zdravotním postižením)...

9. Odpovědnost: Vývojáři musí nést odpovědnost za systémy, které vyvíjejí, aby si zajistili důvěru uživatelů. Konkrétně musí uživatelům poskytovat informace, které jim pomohou s výběrem a používáním systému. Kromě toho by vývojáři měli dělat více, aby zvýšili společenskou akceptaci systémů: Poskytovat uživatelům informace a popisy technických specifikací systémů, které vyvíjejí, algoritmů, bezpečnostních mechanismů atd.; naslouchat názorům a vést dialog se zúčastněnými stranami.

Zdroj: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html