Порада експерта: Не поспішайте легалізувати ШІ

(NLDO) - Семінар привернув увагу дослідників, викладачів, студентів та експертів у галузі технологій та права.

7 жовтня Університет економіки та права (VNU-HCM) у співпраці з газетою Ho Chi Minh City Law Newspaper організував наукову конференцію на тему «Штучний інтелект та право: міжнародний досвід та деякі пропозиції для В'єтнаму».

Потрібна гнучкість замість "жорсткої рами"

Виступаючи на семінарі, доцент доктор Нго Хуу Фуок, заступник декана факультету економічного права Університету економіки та права, представив доповідь про вплив штучного інтелекту (ШІ) на правову систему, законодавчий досвід країн світу та політичні пропозиції для В'єтнаму.

Доцент, доктор Нго Хуу Фуок, заступник декана факультету економічного права Університету економіки та права, представив свою доповідь. Фото: Організаційний комітет

За словами пана Фуока, Китай є однією з країн із визначним підходом до управління штучним інтелектом. Ця країна застосовує багаторівневу модель, що поєднує такі базові закони, як Закон про кібербезпеку (2017), Закон про безпеку даних (2021), Закон про захист персональної інформації (2021) зі спеціалізованими нормативними актами, місцевими нормативними актами та технічними стандартами «м’якого права». Такий підхід допомагає Китаю як суворо регулювати, так і створювати умови для тестування технологій у рамках контролю.

Основними перевагами є швидкість і гнучкість, що дозволяють швидко коригувати політику відповідно до технологічних практик, одночасно сприяючи розвитку сильної екосистеми штучного інтелекту. Однак ця модель також має обмеження щодо конфіденційності, правового дублювання та ризику придушення інновацій через глибоке державне втручання.

Спираючись на міжнародний досвід, доцент доктор Нго Хю Фуок вважає, що В'єтнаму на сучасному етапі не варто видавати окремий закон про штучний інтелект. Причина полягає в тому, що вітчизняна екосистема штучного інтелекту ще недостатньо зріла для легалізації. Тим часом «жорстка правова база» перешкоджатиме інноваціям. З іншого боку, ресурси державного управління все ще обмежені.

Натомість він запропонував видати етичні рамки (кодекс поведінки) для ШІ, щоб керувати відповідальною поведінкою та розвитком; створити «пісочницю» ШІ для забезпечення контрольованого тестування; а також внести зміни та доповнення до чинних законів для інтеграції нормативних актів, пов’язаних зі ШІ, у існуючу правову систему.

На думку експертів, ці орієнтації допоможуть В'єтнаму скористатися можливостями штучного інтелекту гнучко, безпечно та відповідно до реальних умов країни.

Коли штучний інтелект стукає у двері лікарні

За словами доцента, доктора Ле Мінь Хоя, керівника кафедри науки та навчання Університетської медицини та фармацевтичної лікарні Хошиміна, порівняно з такими галузями, як економіка чи комунікації, штучний інтелект у медицині розроблено з використанням багатьох передових моделей. Однак практичне застосування все ще є обережним. «Лікарі все ще досліджують, чи є штучний інтелект «другом» чи «ворогом», — поділився доцент, доктор Ле Мінь Хой.

За словами доцента, доктора Ле Мінь Хоя, впровадження штучного інтелекту в медичну сферу створює низку потенційних ризиків, таких як безпека та конфіденційність даних, упередженість в алгоритмах та етиці, питання безпеки, відповідальності та прозорості...

Одним з найбільших ризиків є «ілюзія» штучного інтелекту. Якщо в широко розгорнутій системі трапляються помилки, наслідки можуть торкнутися тисяч пацієнтів. Питання відповідальності також є складним: якщо штучний інтелект спричиняє помилки в діагностиці чи лікуванні, хто несе відповідальність – лікар, який використовує систему, розробник системи, дистриб'ютор, лікарня чи регулятор?

Фото конференції - Організаційний комітет

Крім того, якщо лікарі занадто покладатимуться на ШІ, вони можуть втратити здатність мислити та приймати клінічні рішення, а також поступово втратити здатність виявляти та виправляти помилки, тоді як людський нагляд залишається незамінним фактором. Крім того, консервативний менталітет, страх втратити роботу або брак розуміння технологій також змушують багатьох медичних працівників вагатися звертатися до ШІ.

Щодо юридичних проблем, доцент доктор Ле Мінь Кхой зазначив, що швидкість розвитку штучного інтелекту наразі значно перевищує можливості регуляторної системи щодо регулювання. Технології розвиваються надто швидко, тоді як регулювання повільне, що призводить до того, що ми потрапляємо в «задушливу» ситуацію між двома крайнощами: якщо ми посилюватимемо обмеження, це задушить інновації, а якщо послабимо, це буде ризиковано для пацієнтів. Крім того, інфраструктура медичних даних у В'єтнамі все ще фрагментована, непослідовна та нерівномірної якості, що ускладнює навчання та тестування моделей ШІ.

Пан Хой підсумував, що штучний інтелект — це чудова можливість для медичної галузі, а також випробування людської адаптивності, відкритості та відповідальності в цифрову епоху.

Джерело: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm