27 листопада вдень під керівництвом заступника голови Національних зборів Ле Мінь Хоана Національні збори обговорили в залі засідань проект Закону про штучний інтелект.
Відсутність нормативних актів щодо компенсації та страхової відповідальності
Щодо статті 20 проекту Закону про механізм контрольованого тестування для розвитку штучного інтелекту, член Національних зборів Хоанг Мінь Х'єу ( Нге Ан ) заявив, що головною метою механізму контрольованого тестування штучного інтелекту (ШІ) є усунення правових бар'єрів, які перешкоджають моделям ШІ, дозволяючи обмежене тестування для отримання даних для підтвердження ефективності, тим самим сприяючи довгостроковій регуляторній реформі. Цей підхід також дуже відповідає нашому сучасному законодавчому мисленню, яке полягає в тому, що інституції повинні йти першими, щоб прокласти шлях для розвитку.
Делегат наголосив, що положення щодо механізмів контрольованого тестування мають бути в центрі уваги правової бази щодо ШІ, тому законодавчому органу необхідно дослідити та більш конкретно врегулювати це питання в проекті Закону.
Відповідно, делегат запропонував переглянути положення щодо організацій та осіб, які беруть участь у контрольованих випробуваннях, які звільняються від зобов'язань або мають деякі зобов'язання щодо дотримання вимог, як це передбачено пунктом 2 статті 20 проекту Закону. Такі положення призводять до обмеження сфери застосування звільнення положеннями цього Закону, тоді як системи штучного інтелекту часто пов'язані з багатьма іншими відповідними законодавчими положеннями.
Делегати згадали механізм тестування ШІ в пасажирських літаках з автономним керуванням у Японії, який звільнений від деяких правил щодо забезпечення безпеки авіації. Або тестування автомобілів з автономним керуванням у Китаї та Японії звільнене від положень Закону про захист персональних даних, який полягає у використанні даних зображень без необхідності розмивання облич учасників дорожнього руху для тренування та відпрацювання зору ШІ.
Спираючись на досвід інших країн, делегати запропонували, щоб агентство, відповідальне за підготовку дослідження, лише чітко визначило у пункті 2 статті 20, що організації та особи, які беруть участь у контрольованих випробуваннях, звільняються від деяких зобов'язань щодо дотримання вимог, передбачених цим Законом та іншими відповідними законами, або звільняються від них.
Пункт 5 статті 20 доручає державному органу управління у сфері штучного інтелекту організувати прийом, оцінку та обробку досьє для участі в контрольованих заходах з тестування відповідно до процесу оцінки та швидкого реагування.
Делегат Хоанг Мінь Х'єу зазначив, що системи штучного інтелекту – це не просто питання, пов'язані з технологіями, алгоритмами..., а й міждисциплінарні та міждисциплінарні питання. Тому положення пункту 5, ймовірно, підходять лише для систем штучного інтелекту загального призначення, таких як генеративний штучний інтелект (ChatGPT, Gemini)... Що стосується спеціалізованих систем штучного інтелекту, то міждисциплінарний характер дуже високий.
Посилаючись на систему DrAid, продукт штучного інтелекту, що підтримує медичну діагностику за допомогою зображень, розроблений VinBrain, делегат Хоанг Мінь Х'єу зазначив, що якщо його зареєстровано для тестування, то неможливо уникнути моніторингової та управлінської ролі Міністерства охорони здоров'я. Тому в деяких країнах оцінка та ліцензування контрольованого тестування систем штучного інтелекту покладаються на міждисциплінарну раду.
Делегати запропонували переглянути положення пункту 5 статті 20 законопроекту в напрямку «державний орган управління у сфері штучного інтелекту головує та координує з відповідними державними органами управління організацію прийому, оцінки та обробки досьє для участі в контрольованих заходах з тестування».
Делегат також зазначив, що в положеннях статті 20 проекту Закону все ще відсутні положення про компенсацію та страхові зобов'язання. Також у ній не згадується, хто несе відповідальність, якщо тест завдає шкоди третій стороні. Згідно з загальним принципом, організація або особа, що проводить тестування, повинні виплатити цивільну компенсацію, якщо це завдасть шкоди. Тому делегат Хоанг Мінь Х'єу запропонував розглянути можливість додавання цього положення до проекту Закону.
Усе програмне забезпечення штучного інтелекту, що працює у В'єтнамі, має бути оснащене « стандартною базою даних, подібною до людської ».
Депутат Національної асамблеї Тран Ван Лам (Бакнінь) високо оцінив законопроект за визначення принципу, що ставить людину в центр уваги; класифікацію та контроль ризиків; перевірку систем штучного інтелекту з високим рівнем ризику; та розвиток національної обчислювальної та інформаційної інфраструктури. Це прогресивна правова база, що відповідає міжнародним тенденціям.
Однак, щоб зробити Закон справді повним і мати довгострокове бачення, делегат запропонував ключове доповнення: розглядати ШІ як «новонароджену людську істоту». «Розумну, але невинну сутність»: не знаючи закону, не розуміючи етики та етикету, не маючи культурних цінностей і не розрізняючи правильного від неправильного, якщо її цьому не навчають.
«Якщо ми розглядаємо ШІ як нову сутність, наш обов’язок полягає не лише в тому, щоб контролювати його, а й навчати йому з самого початку, як навчають дитину стандартним людським цінностям. І це має бути обов’язковим положенням у цьому Законі, а не просто рекомендацією», – сказав делегат Тран Ван Лам.
Делегати запропонували Національним зборам додати до Закону правовий принцип: «Усе програмне забезпечення штучного інтелекту, що працює у В'єтнамі, незалежно від того, чи розроблене воно вітчизняними чи іноземними організаціями, має бути оснащене стандартною базою даних про людей ».
За словами делегата, «стандартна база даних людського фундаменту» повинна містити достатньо інформації, щоб навчити ШІ розуміти в'єтнамське законодавство; навчити ШІ етичним стандартам, культурі та добрим традиціям нації; навчити ШІ вмінню розрізняти правильне та неправильне, стандартне та нестандартне; поведінкові межі, які не можна перевищувати, та правила виявлення ризиків для людей. І найголовніше, забезпечити, щоб ця база даних фундаменту завжди мала абсолютний пріоритет у регулюванні поведінки ШІ; не повинна бути перезаписана, замінена або вимикатися будь-яким іншим алгоритмом чи навчальними даними. Це юридичне та технічне «золоте кільце» , яке гарантує, що ШІ не збиться зі шляху.
Для ефективної реалізації цієї орієнтації делегати запропонували Міністерству науки і технологій взяти на себе ініціативу у створенні єдиної, стандартизованої та постійно оновлюваної платформи баз даних «Бути в'єтнамцем» ; надання її розробникам штучного інтелекту як обов'язкової вимоги. Уряд повинен розробити потужну національну обчислювальну інфраструктуру, щоб забезпечити навчання в'єтнамського штучного інтелекту на основі в'єтнамських цінностей, а не залежність від іноземних моделей.
Водночас створити Національний центр тестування штучного інтелекту для оперативної оцінки девіантної поведінки, контролю моделей високого ризику та оперативного втручання, коли виникають ознаки перевищення меж. Сприяти освіті в галузі штучного інтелекту в усьому суспільстві, зосереджуючись на допомозі людям, бізнесу та особливо державному сектору мати можливість належним чином ідентифікувати, використовувати та контролювати ШІ.
Делегат Тран Ван Лам наголосив: «Сьогоднішній Закон про штучний інтелект — це не просто закон про технології, а закон майбутнього; зобов’язання Національних зборів перед народом: ми розробляємо технології, але не втрачаємо контролю; сприяємо інноваціям, але не дозволяємо ризикам вийти за межі нашої досяжності. І розвиваємо штучний інтелект з в’єтнамськими цінностями, щоб служити в’єтнамському народу».
Джерело: https://daibieunhandan.vn/phat-trien-cong-nghe-thuc-day-doi-moi-nhung-khong-de-rui-ro-vuot-tam-10397378.html
Коментар (0)