Проект закону про штучний інтелект. Штучний інтелект у медицині має перевірятися як медичні вироби.

З огляду на те, що охорона здоров'я є чутливою сферою з високим рівнем ризику, яку потрібно суворо контролювати, включаючи застосування штучного інтелекту, деякі делегати запропонували розглянути в проекті Закону про штучний інтелект положення про те, що штучний інтелект в охороні здоров'я має перевірятися подібно до медичних виробів.

Сцена дискусійної сесії в залі про проект «Право штучного інтелекту»

Управління продуктами штучного інтелекту для охорони здоров'я

Як делегат, що працює в секторі охорони здоров'я, депутат Національних зборів Тран Хань Тху ( Хунг Єн ) високо оцінив вплив штучного інтелекту (ШІ) на сектор охорони здоров'я – одну з галузей з найбільшим потенціалом для застосування ШІ, з чітким впливом на процес діагностики, лікування, ведення пацієнтів, а також фармацевтичні дослідження та розробки.

Однак нещодавно 55-річну пацієнтку з Хошиміна доставили до відділення невідкладної допомоги в млявому стані, вона не усвідомлювала навколишнього середовища. Донька пацієнтки розповіла, що раніше бачила, як у її матері паморочиться голова та важко дихає, тому вона попросила штучний інтелект поставити їй діагноз. Результати показали, що у неї високий кров'яний тиск.

Виступає депутат Національних зборів Чан Хань Тху (Хун Єн)

Делегат розповів, що син виміряв тиск матері та побачив, що він справді підвищився, тому пішов до аптеки, щоб купити ліки для матері. Але після прийому ліків стан матері погіршився, вона відчула втому, сильно блювала та втрачала свідомість, тому він відвіз її до відділення невідкладної допомоги. У лікарні лікар підтвердив, що у пацієнтки пошкодження мозку та інсульт. Хоча її врятували від критичної стадії, наслідки були неминучими.

Делегат відверто сказав, що інтернет зараз дуже популярний, особливо штучний інтелект, дуже гарне джерело інформації для пацієнтів, які хочуть дізнатися більше про свою хворобу... Однак люди абсолютно не можуть використовувати результати для пошуку, діагностики чи призначення ліків собі – і чи порушують закон люди, які продають ліки за рецептами штучного інтелекту? – порушив це питання делегат.

Делегат також зазначив, що у нас немає конкретної та повної правової бази, що стосується безпосередньо застосування штучного інтелекту в охороні здоров'я. Хоча такі закони, як Закон про медичне обстеження та лікування або Закон про фармацевтичну фармацію, регулюють діяльність з медичного обстеження та лікування, а також медичні вироби, конкретні правила щодо продуктів, що застосовуються на основі штучного інтелекту, у медицині досі залишаються нечіткими.

Крім того, засоби медичного обстеження та лікування на основі штучного інтелекту все ще підлягають загальним процедурам ліцензування медичних виробів, що не передбачає спеціальних стандартів та правил щодо штучного інтелекту для цих продуктів.

Делегати, присутні на дискусійній сесії

«Крім того, деякі питання, такі як юридична відповідальність у разі помилок штучного інтелекту, а також безпека медичних даних і пацієнтів, чітко не врегульовані в чинних правових документах», – наголосив делегат.

Виходячи з вищезазначеного, делегат Тран Кхань Тху сподівається, що проект Закону про штучний інтелект міститиме більш конкретні положення, терміни та правові рамки для управління продуктами штучного інтелекту для охорони здоров'я, особливо щодо обов'язків відповідних сторін.

З огляду на те, що охорона здоров'я є чутливою та високоризикованою сферою, її застосування потребує суворого контролю, делегат Національної асамблеї Ле Ван Кхам (Хошимін) запропонував вивчити нормативні акти, а також запропонував перевірити ШІ в охороні здоров'я, як і медичні вироби. Існують обов'язкові категорії перевірок, коли ШІ підтримує прийняття клінічних рішень, такі як: діагностика за допомогою ШІ, прогнозування ШІ ризику смерті або ускладнень, хірургічні роботи, що використовують ШІ, підтримка ШІ призначення рецептів або схем лікування.

Крім того, делегати запропонували запровадити правила моніторингу використання штучного інтелекту в охороні здоров'я для забезпечення безпеки пацієнтів, такі як правила періодичної звітності, швидкого попередження про інциденти, аудиту алгоритмів та моніторингу помилок у режимі реального часу. Якщо в цьому законі будуть принципові правила, компетентний орган видасть підзаконні документи для їх впровадження, а також створить інструменти управління та відповідні заходи в управлінні медичним штучним інтелектом.

Вигляд зустрічі. Фото: Куанг Кхань

Водночас, делегат Ле Ван Кхам запропонував, що розробник законопроекту повинен ретельно розглянути можливість дозволити постачальникам самостійно класифікувати ризики для штучного інтелекту в медицині, як це передбачено статтею 9 законопроекту.

Оцінка впливу на дані розгортання високоризикових систем штучного інтелекту

Наголошуючи на тому, що класифікація ризиків є душею Закону про штучний інтелект, депутат Національної Асамблеї Тхач Фуок Бінь (Вінь Лонг) зазначив, що проект Закону ще не містить кількісних критеріїв класифікації. Перелік систем штучного інтелекту з високим рівнем ризику регулюється відносно широко, включаючи сфери, де на практиці не виявлено значних ризиків. Це може створити непотрібне навантаження на дотримання вимог, особливо для малих та середніх підприємств.

Виступає делегат Національної асамблеї Тхач Фуок Бінь (Вінь Лонг). Фото: Фам Тханг

Тому делегати запропонували переглянути список систем з високим рівнем ризику, зосередившись лише на тих системах, які можуть мати значний вплив на права людини, конфіденційність, охорону здоров'я, фінанси та соціальне забезпечення. Водночас, необхідно створити механізм гнучкого оновлення списку систем з високим рівнем ризику на основі консультацій з експертами, галузевими асоціаціями та дослідницькими організаціями. Приєднати критерії ризику до технічних характеристик моделі, таких як автоматизація, здатність до самонавчання, непередбачуваність та масштаб використання.

Щодо даних, конфіденційності та захисту користувачів, делегат Тхач Фуок Бінь зазначив, що дані є «паливом» для штучного інтелекту, але чинні положення законопроекту не відповідають Закону про захист персональних даних. Необхідно уточнити рівень обробки, дозволений для конфіденційних даних, даних дітей та біометричних даних. Водночас необхідно додати зобов’язання оцінювати вплив даних під час впровадження високоризикового штучного інтелекту.

Для користувачів ШІ, у законопроекті згадано деякі основні права, але все ще бракує важливих прав згідно з міжнародними стандартами, таких як: право відмовитися від повністю автоматизованих рішень або право вимагати пояснень. Це дуже важливі права, які допомагають людям не постраждати від рішень на основі ШІ у сферах фінансів, страхування, охорони здоров'я чи працевлаштування.

Міністр науки і технологій Нгуєн Мань Хунг пояснює думки депутатів Національних зборів на засіданні. Фото: Хо Лонг

Делегат зазначив, що дипфейки, підробка голосу, зображень та відео спричинили багато інцидентів, які серйозно впливають на інформаційну безпеку та конфіденційність. Стаття 9 законопроекту передбачає маркування результатів роботи штучного інтелекту, але все ще необхідно уточнити деякі моменти, такі як: які типи контенту необхідно маркувати, який рівень маркування для захисту користувачів без зменшення цифрового досвіду, та відповідальність платформ соціальних мереж за виявлення та видалення фальшивого контенту. Розробка суворого, але гнучкого механізму маркування є вкрай необхідним фактором.

Делегат також зазначив, що система оцінки відповідності є одним із найбільш технічних аспектів законопроекту. Однак, якщо ми надто переосмислимо механізм попередньої перевірки, ми можемо ненавмисно перешкоджати інноваціям.

Тому делегат Тхач Фуок Бінь запропонував вимагати сертифікацію лише для систем високого ризику, дозволяючи самооцінку для систем низького та середнього ризику. Забезпечити чіткий та прозорий процес оцінки, уникаючи створення механізму запиту-надання дозволу.

Джерело: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html