Посилення «червоної лінії» для ШІ: В'єтнам пропонує заборонити технології імітації людини

З огляду на вибухове зростання технології діпфейків та ризик використання штучного інтелекту (ШІ) для шахрайства, уряд запропонував повну заборону систем ШІ, які можуть видавати себе за людей. Це крок до встановлення правових бар'єрів, захисту прав людини та забезпечення безпеки в цифрову епоху.

В рамках реалізації програми 51-ї сесії, ввечері 17 листопада, під головуванням Голови Національних зборів Чан Тхань Мана та керівництвом заступника Голови Національних зборів Ле Мінь Хоана, Постійний комітет Національних зборів надав висновки щодо проекту Закону про штучний інтелект.

Огляд сесії.

Подаючи проєкт закону про штучний інтелект до Постійного комітету Національних зборів, міністр науки і технологій (MOST) Нгуєн Мань Хунг заявив, що проєкт закону вперше встановлює концепцію «системи штучного інтелекту з неприйнятними ризиками».

За словами міністра Нгуєн Мань Хунга, «системи штучного інтелекту з неприйнятними ризиками» – це системи, які можуть завдати серйозної, непоправної шкоди правам людини, національній безпеці, соціальному порядку або призначені для здійснення дій, заборонених законом. З рівнем небезпеки, що виходить за межі контролю, розробка, надання, розгортання та використання цієї групи систем у будь-якій формі у В'єтнамі будуть заборонені.

У проекті визначено такі ідентифікаційні ознаки, як: системи, розроблені для впровадження забороненої поведінки; використання фальшивих елементів або імітації реальних людей та подій для навмисного обману, маніпулювання сприйняттям та поведінкою, що завдає серйозної шкоди правам користувачів; використання слабких сторін вразливих груп; створення або поширення фальшивого контенту, що становить високий ризик для національної безпеки, соціального порядку та безпеки.

Згідно зі звітом, швидкий розвиток штучного інтелекту призводить до нових ризиків для безпеки. Зокрема, застерігається, що діпфейк є інструментом, який можна використовувати для створення фейкових новин, наклепу, шахрайства, підриву суспільної довіри та спричинення соціальної нестабільності. Автономні системи зброї, що використовують штучний інтелект, також створюють низку етичних та правових проблем, вирішення яких світ досі намагається знайти. Тим часом чинне законодавство не встигає за контролем, що призводить до зростання розриву в управлінні. Тому прийняття окремого закону про штучний інтелект є нагальною вимогою як для контролю ризиків, так і для сприяння дослідженням та застосуванню штучного інтелекту у В'єтнамі.

Міністр Нгуєн Мань Хунг заявив, що метою законопроекту є створення єдиної правової бази для забезпечення безпечного, відповідального розвитку штучного інтелекту на благо людства. Штучний інтелект визначено як національну інтелектуальну інфраструктуру, рушійну силу зростання продуктивності, інновацій, підвищення технологічної автономії та національної конкурентоспроможності.

На зустрічі виступив міністр науки і технологій Нгуєн Мань Хунг.

Проект Закону про штучний інтелект складається з 8 розділів та 36 статей; він наголошує на політиці розвитку штучного інтелекту, орієнтованій на людину, та уточнює роль держави в управлінні та створенні. Закон встановлює механізм управління на основі ризиків, що забезпечує прозоре, безпечне, контрольоване та підзвітне застосування штучного інтелекту; захищає безпеку, захист, суверенітет даних та права на національний технологічний резерв.

Законопроект також вимагає, щоб системи штучного інтелекту були нешкідливими, неупередженими та поважали людські цінності; а також мали механізм моніторингу, перевірки та розгляду порушень для забезпечення стримування та зміцнення соціальної довіри. Уряд сприятиме розвитку інноваційної екосистеми та розвиватиме високоякісні людські ресурси за допомогою механізмів підтримки досліджень, інвестицій та навчання для дослідницьких інститутів, підприємств та окремих осіб, які беруть участь у розробці штучного інтелекту.

Комітет Національних зборів з питань науки, технологій та навколишнього середовища загалом погодився з проектом політики, але також запропонував уточнити кількісні або якісні критерії для класифікації ШІ за рівнями ризику. Агентство з розгляду запропонувало додати заборонені дії для посилення стримування та послідовності в правоохоронній діяльності, такі як заборона використання ШІ для створення діпфейків з метою вчинення шахрайства, образи людської гідності, спричинення політичних заворушень, маніпулювання виборами або порушення національної безпеки.

Згідно з планом, уряд представить проект закону про штучний інтелект Національним зборам 21 листопада; делегати обговорять його в залі засідань 27 листопада. Очікується, що проект закону стане «правовою операційною системою» для розвитку штучного інтелекту у В'єтнамі, прокладаючи шлях для інновацій, водночас встановлюючи необхідні обмеження для захисту людей від технологій нового покоління.

Центр науково-технічної комунікації

Джерело: https://mst.gov.vn/siet-chat-lan-ranh-do-cua-ai-viet-nam-de-xuat-cam-cong-nghe-gia-mao-con-nguoi-197251117221425816.htm