Делегаты Национальной ассамблеи провинции обсуждают в группах проект закона об искусственном интеллекте

Выступая на дискуссии, делегат Вуонг Тхи Хыонг отметила, что искусственный интеллект становится передовой технологией промышленной революции 4.0, открывая множество возможностей для социально-экономического развития, но также создавая множество проблем в области управления, этики и безопасности, которые действующее законодательство не в полной мере охватывает. Делегаты согласились с необходимостью принятия проекта Закона об искусственном интеллекте для создания правовой среды, прорыва в развитии искусственного интеллекта, содействия инновациям, повышения национальной конкурентоспособности и одновременного управления рисками, защиты национальных интересов и прав человека.

Делегат Выонг Тхи Хуонг выступает во время обсуждения.

Что касается сферы регулирования и субъектов применения, делегат подчеркнул, что это основополагающее положение, определяющее субъектов и сферу действия всего закона. Сфера регулирования Закона охватывает деятельность по «исследованию, разработке, предоставлению, внедрению и использованию» систем искусственного интеллекта, однако в числе субъектов применения Закона упоминаются только организации и лица, осуществляющие деятельность по «разработке, предоставлению, внедрению и использованию» систем искусственного интеллекта, и не упоминается «исследовательская» деятельность. Это может привести к пониманию того, что субъекты, проводящие исключительно исследования в области искусственного интеллекта, хотя и могут возникать определённые риски, не подпадают под сферу регулирования Закона. Делегат предложил добавить в статью 2 словосочетание «исследование» для обеспечения соответствия статье 1 .

Что касается толкования термина « модель искусственного интеллекта общего назначения с открытым исходным кодом» . Согласно проекту, открытая модель выпускается по лицензии, которая позволяет организациям и частным лицам свободно получать доступ, использовать, изменять и распространять основные компоненты, включая исходный код, параметры модели и данные для обучения. Делегаты рекомендовали уточнить содержание лицензии модели с открытым исходным кодом, четко определив лицензию как исходную лицензию, выданную владельцем модели; вьетнамское законодательство регулирует только структуру управления, не заменяя, не расширяя и не корректируя права интеллектуальной собственности правообладателя. В случае изменения, интеграции или распространения модели за пределами положений исходной лицензии требуется письменное согласие правообладателя.

Относительно Политики развития экосистемы и рынка искусственного интеллекта делегат заявил, что в условиях быстрого развития ИИ, если термин «система искусственного интеллекта нового поколения» не будет четко определен, будет сложно выделить приоритетных субъектов и бенефициаров политики поддержки; сложно определить сферу управления рисками; государственным органам будет сложно разработать критерии оценки и одобрения... Делегат предложил добавить пояснение термина, уточнив понятие «система искусственного интеллекта нового поколения».

Что касается понятия и ответственности разработчика универсальной модели искусственного интеллекта, то делегат отметил, что данное положение соответствует текущей практике разработки искусственного интеллекта, и необходимо четко разграничить ответственность разработчика модели и разработчика приложения, чтобы избежать дублирования правовых обязанностей. Однако в законопроекте указано только, что разработчик несет ответственность за «базовую прозрачность», но не разъясняется, что такое базовая прозрачность и что такое повышенная прозрачность, в то время как требование прозрачности является основой для оценки ответственности, безопасности и соблюдения законодательства. Делегат рекомендовал уточнить понятие и критерии «базовой прозрачности».

Что касается управления системами искусственного интеллекта высокого риска, делегаты отметили, что проект правил классификации и управления рисками пока не уточняет, какой орган отвечает за управление в каждой конкретной области. В частности, в секторе здравоохранения, если общая координация будет возложена на агентство по управлению информационными технологиями без четкого определения роли сектора здравоохранения, это может привести к дублированию оценок, отсутствию единообразия профессиональных стандартов и сложностям в управлении продуктами искусственного интеллекта, используемыми в качестве медицинских устройств или применяемыми при медицинском обследовании и лечении. Делегаты предложили добавить положения, возлагающие на Министерство здравоохранения ответственность за управление системами искусственного интеллекта высокого риска в секторе здравоохранения.

Что касается ответственности за прозрачность, маркировку и подотчётность, делегат заявил, что проект не охватывает медицинскую сферу, хотя это специфическая сфера с высокими рисками, напрямую связанная с жизнью и здоровьем людей. В настоящее время многие системы ИИ используются для диагностики, анализа медицинских изображений, подбора схем лечения, предоставления удалённой медицинской помощи... Если пользователи не чётко осознают, что информация создана ИИ, это может привести к риску злоупотреблений, абсолютного доверия или путаницы с профессиональными инструкциями врача, что может привести к серьёзным медицинским последствиям. Чтобы пациенты и врачи знали, что информация создана ИИ, а не профессиональными рекомендациями людей, необходимо повысить ответственность за отслеживание и подотчётность в случае медицинских ошибок, связанных с ИИ. Делегат предложил добавить после пункта b пункта 3 статьи 9 пункт «c». Маркировка выполняется на контенте, создаваемом системами искусственного интеллекта, в целях оповещения, поддержки принятия клинических решений в здравоохранении или оказания медицинских услуг.

Кроме того, делегат Вуонг Тхи Хыонг также внес комментарии по многим положениям законопроекта, таким как: выпуск списка ключевых наборов данных, служащих развитию искусственного интеллекта; о политике развития экосистемы и рынка искусственного интеллекта; уточнение понятий «продукты искусственного интеллекта» и «услуги искусственного интеллекта»...

ПВ

Источник: https://baotuyenquang.com.vn/thoi-su-chinh-tri/202511/dai-bieu-quoc-hoi-tinh-thao-luan-tai-to-ve-du-an-luat-tri-tue-nhan-tao-ce03d26/