Проект закона об искусственном интеллекте. ИИ в медицине должен проверяться так же, как медицинские приборы.

Учитывая, что здравоохранение является чувствительной, высокорисковой сферой, требующей строгого контроля, включая применение ИИ, некоторые делегаты предложили, чтобы в проекте закона об искусственном интеллекте были рассмотрены положения, согласно которым ИИ в здравоохранении должен проверяться так же, как и медицинские приборы.

Сцена обсуждения в зале проекта Закона об искусственном интеллекте

Управление продуктами ИИ для здравоохранения

Депутат Национальной ассамблеи Чан Кхань Ту ( Хынг Йен ), работающий в сфере здравоохранения, высоко оценил влияние искусственного интеллекта (ИИ) на сектор здравоохранения — одну из областей с наибольшим потенциалом применения ИИ, которая оказывает очевидное влияние на процесс диагностики, лечения, ведения пациентов, а также на фармацевтические исследования и разработки.

Однако недавно в отделение неотложной помощи в Хошимине поступила 55-летняя пациентка в состоянии апатии, не осознающая происходящего. Дочь пациентки рассказала, что ранее видела у своей матери головокружение и затрудненное дыхание, поэтому обратилась к ИИ для диагностики. Результаты показали, что у неё высокое кровяное давление.

Выступает депутат Национальной ассамблеи Чан Кхань Ту (Хынг Йен)

Делегат рассказал, что сын измерил матери артериальное давление и увидел, что оно действительно повысилось. Он пошёл в аптеку за лекарством. Но после приёма лекарств состояние матери ухудшилось: она почувствовала усталость, у неё началась сильная рвота, и она потеряла сознание. Он отвёз её в отделение неотложной помощи. В больнице врач подтвердил наличие у пациентки повреждения головного мозга и инсульта. Хотя её удалось спасти от критической стадии, последствия были неизбежны.

Делегат откровенно сказал, что Интернет в настоящее время очень популярен, особенно ИИ, очень хороший источник информации для пациентов, которые хотят узнать больше о своей болезни... Однако люди ни в коем случае не могут использовать результаты для поиска, диагностики или назначения лекарств себе. И нарушают ли закон те, кто продает лекарства по рецептам ИИ? - поднял этот вопрос делегат.

Делегат также отметил, что у нас нет конкретной и полной правовой базы, регулирующей применение ИИ в здравоохранении. Хотя такие законы, как Закон о медицинском обследовании и лечении или Закон о фармации, регулируют деятельность по медицинскому обследованию и лечению, а также медицинские изделия, конкретные правила, регулирующие применение ИИ в медицине, до сих пор неясны.

Кроме того, медицинские продукты для обследования и лечения на базе ИИ по-прежнему подпадают под общие процедуры лицензирования для медицинских приборов, поскольку для таких продуктов отсутствуют специальные стандарты и правила в отношении ИИ.

Делегаты, присутствовавшие на дискуссионной сессии

«Кроме того, некоторые вопросы, такие как юридическая ответственность в случае ошибок ИИ, а также безопасность медицинских данных и пациентов, не имеют четкого регулирования в действующих правовых документах», — подчеркнул делегат.

Основываясь на вышеизложенном, делегат Тран Кхань Ту надеется, что проект закона об искусственном интеллекте будет содержать более конкретные положения, условия и правовые рамки для управления продуктами ИИ для здравоохранения, особенно обязанности соответствующих сторон.

Учитывая, что здравоохранение является чувствительной и высокорисковой сферой, применение ИИ требует строгого контроля, делегат Национальной ассамблеи Ле Ван Кхам (Хошимин) предложил изучить нормативные акты. ИИ в здравоохранении должен проходить проверку так же, как и медицинские приборы. Существуют обязательные категории проверок, когда ИИ поддерживает принятие клинических решений, например: диагностирование с помощью ИИ, прогнозирование риска смерти или осложнений с помощью ИИ, хирургические роботы с использованием ИИ, ИИ для выдачи рецептов или лечения.

Кроме того, делегаты предложили разработать правила мониторинга использования ИИ в здравоохранении для обеспечения безопасности пациентов, такие как правила периодической отчетности, оперативного оповещения об инцидентах, аудита алгоритмов и мониторинга ошибок в режиме реального времени. При наличии в законе принципиальных положений компетентный орган выпустит подзаконные акты для их реализации, а также разработает инструменты управления и соответствующие меры в сфере управления использованием ИИ в медицине.

Вид на встречу. Фото: Куанг Кхань

В то же время, по мнению делегата Ле Ван Кхама, агентству-разработчику законопроекта необходимо тщательно рассмотреть вопрос о предоставлении поставщикам возможности самостоятельно классифицировать риски, связанные с ИИ в медицине, как это предусмотрено в статье 9 законопроекта.

Оценка воздействия высокорискованных развертываний ИИ на данные

Подчеркнув, что классификация рисков – это основа Закона об искусственном интеллекте, депутат Национальной ассамблеи Тхать Фыок Бинь (Винь Лонг) отметил, что в законопроекте пока не предусмотрены количественные критерии классификации. Перечень высокорисковых систем искусственного интеллекта регулируется относительно широко, включая области, где на практике не было выявлено существенных рисков. Это может создать излишнюю нагрузку на соблюдение требований, особенно для малых и средних предприятий.

Выступает делегат Национальной ассамблеи Тхать Фуок Бинь (Винь Лонг). Фото: Фам Тханг

В связи с этим делегаты предложили пересмотреть список систем высокого риска, сосредоточившись только на системах, которые могут оказать существенное влияние на права человека, конфиденциальность, здравоохранение, финансы и социальное обеспечение. Необходимо также создать механизм гибкого обновления списка систем высокого риска на основе консультаций с экспертами, отраслевыми ассоциациями и исследовательскими организациями. Необходимо включить критерии риска в технические характеристики модели, такие как автоматизация, способность к самообучению, непредсказуемость и масштаб использования.

Что касается данных, конфиденциальности и защиты пользователей, делегат Тхать Фуок Бинь заявил, что данные являются «топливом» для искусственного интеллекта, однако действующие положения законопроекта не соответствуют Закону о защите персональных данных. Необходимо уточнить уровень обработки конфиденциальных данных, данных детей и биометрических данных. Кроме того, необходимо добавить обязанность оценивать воздействие данных при внедрении высокорискованных систем искусственного интеллекта.

Для пользователей ИИ в законопроекте упоминаются некоторые базовые права, но по-прежнему отсутствуют важные права, соответствующие международным стандартам, такие как право отказаться от полностью автоматизированных решений или право запрашивать объяснения. Эти права крайне важны, поскольку помогают людям не страдать от решений, принимаемых с помощью ИИ в сфере финансов, страхования, здравоохранения или найма рабочей силы.

Министр науки и технологий Нгуен Мань Хунг излагает позицию депутатов Национального собрания на заседании. Фото: Хо Лонг

Делегат отметил, что дипфейк, подделка голоса, изображений и видео стали причиной множества инцидентов, серьёзно влияющих на информационную безопасность и конфиденциальность. Статья 9 законопроекта предусматривает маркировку результатов работы искусственного интеллекта, но при этом необходимо уточнить некоторые моменты, такие как: какие типы контента должны быть маркированы, какой уровень маркировки необходим для защиты пользователей без ущерба для их цифрового опыта, а также ответственность социальных сетей за обнаружение и удаление фейкового контента. Разработка строгого, но гибкого механизма маркировки является крайне необходимым фактором.

Делегат также отметил, что система оценки соответствия является одним из наиболее технических аспектов законопроекта. Однако, если мы слишком перегружены механизмом предварительной проверки, мы можем непреднамеренно затруднить инновации.

В связи с этим делегат Тхать Фуок Бинь предложил ввести обязательное требование о сертификации только для систем с высоким уровнем риска, предусмотрев возможность самостоятельной оценки для систем с низким и средним уровнем риска. Необходимо обеспечить чёткий и прозрачный процесс оценки, избегая создания механизма «запрос-выдача».

Источник: https://daibieunhandan.vn/du-thao-luat-tri-tue-nhan-tao-ai-trong-y-te-phai-duoc-kiem-dinh-nhu-thiet-bi-y-te-10397661.html