Досліджувати та розробляти відповідальні системи штучного інтелекту.

Згідно з даними Міністерства науки і технологій , згідно зі загальною світовою тенденцією, системи штучного інтелекту, як очікується, принесуть велику користь людям, суспільству та економіці В'єтнаму, підтримуючи та вирішуючи складні проблеми, з якими стикаються люди та громади. Поряд з цим процесом необхідно досліджувати та вживати заходів для мінімізації ризиків у процесі розробки та використання штучного інтелекту, а також збалансувати пов'язані з цим економічні, етичні та правові фактори. Тому спеціалізованим установам необхідно досліджувати та розробляти стандарти та рекомендації, навіть якщо вони є м'якими та необов'язковими нормативними актами.

У керівних принципах Міністерство науки і технологій визначає дев'ять принципів дослідження та розробки відповідальних систем штучного інтелекту.

По-перше, дух співпраці та сприяння інноваціям: розробникам необхідно враховувати зв'язок та сумісність між своїми системами штучного інтелекту та іншими системами штучного інтелекту, враховуючи різноманітність систем, щоб посилити переваги системи, одночасно покращуючи координацію для контролю ризиків.

По-друге, прозорість: Системи штучного інтелекту, що відповідають цьому принципу, часто є системами, які можуть впливати на життя, тіло, конфіденційність чи майно користувачів або пов'язаних з ними третіх осіб. У цьому випадку розробникам необхідно звернути увагу на здатність чітко ідентифікувати вхідні та вихідні дані системи, а також на пов'язану з ними пояснювальність на основі характеристик застосованої технології та того, як вони використовуються, щоб забезпечити довіру суспільства, включаючи користувачів.

По-третє, керованість: для оцінки ризиків, пов'язаних з керованістю системи, розробникам необхідно провести попередню оцінку того, чи відповідає система відповідним технічним вимогам та стандартам. Одним із методів оцінки ризиків є тестування в окремому просторі з дотриманням заходів безпеки перед практичним використанням.

По-четверте, принцип безпеки: розробники повинні гарантувати, що система штучного інтелекту не завдасть шкоди життю, тілу чи майну користувачів або третіх осіб, зокрема через посередників.

5. Принципи безпеки: Окрім дотримання документів, інструкцій та впровадження заходів інформаційної безпеки, як це передбачено, розробникам необхідно звертати увагу на такі моменти, як: надійність та стійкість до фізичних атак або аварій системи; конфіденційність; цілісність; та доступність необхідної інформації, пов'язаної з інформаційною безпекою системи...

6. Конфіденційність: Розробники повинні забезпечити, щоб системи штучного інтелекту не порушували конфіденційність користувачів або третіх осіб. Конфіденційність включає просторову конфіденційність (спокій в особистому житті), інформаційну конфіденційність (персональні дані) та конфіденційність комунікацій. Розробники повинні застосовувати чинні правила та рекомендації; можна ознайомитися з міжнародними стандартами та рекомендаціями щодо конфіденційності.

Розробники повинні проводити попередню оцінку ризиків для конфіденційності та проводити попередню оцінку впливу на конфіденційність. Наскільки це можливо, вживати заходів, що відповідають характеристикам технології, що застосовується, протягом усього процесу розробки системи, щоб уникнути порушення конфіденційності під час її використання.

По-сьоме, повага до прав людини та гідності: під час розробки систем штучного інтелекту, що включають людей, розробники повинні приділяти особливу увагу повазі до прав людини та гідності залучених осіб. Наскільки це можливо, залежно від характеристик застосованої технології, розробники повинні вживати заходів, щоб гарантувати, що вони не спричиняють дискримінації чи несправедливості через упередженість даних під час навчання системи.

Розробникам необхідно вжити запобіжних заходів, щоб система не порушувала людські цінності та соціальну етику відповідно до основних принципів В'єтнаму (наприклад, цінності, такі як патріотизм, солідарність, самостійність, відданість, чесність, відповідальність, дисципліна, креативність тощо).

8-е, підтримка користувачів: Для підтримки користувачів розробникам систем необхідно звернути увагу на такі моменти, як: створення готових інтерфейсів для надання своєчасної та відповідної інформації, яка допоможе користувачам приймати рішення та зручно користуватися системою; впровадження заходів для спрощення використання системи вразливими людьми в суспільстві (людьми похилого віку, інвалідами)...

9. Підзвітність: Розробники повинні нести відповідальність за системи, які вони розробляють, щоб забезпечити довіру користувачів. Зокрема, вони повинні надавати користувачам інформацію, яка допоможе їм вибрати та використовувати систему. Крім того, щоб підвищити соціальне сприйняття систем, розробникам слід робити більше: надавати користувачам інформацію та описи технічних характеристик систем, які вони розробляють, алгоритмів, механізмів безпеки тощо; прислухатися до думок та вести діалог із зацікавленими сторонами.

Джерело: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html