Дополнительные соображения для обеспечения более комплексного управления рисками для искусственного интеллекта

Утром 26 апреля в штаб-квартире Национальной ассамблеи по адресу Хунг Вуонг, 22, Ханой, Постоянный комитет Комитета по науке, технологиям и окружающей среде провёл семинар, посвящённый выдвижению идей по доработке проекта закона «О цифровой технологической индустрии». В рамках семинара делегаты предложили и рассмотрели дополнительные положения, обеспечивающие более полное управление рисками, связанными с искусственным интеллектом, а также возможность консультаций с местными органами власти в процессе утверждения проекта для тестирования.

Семинар провёл заместитель председателя Комитета по науке, технологиям и окружающей среде Нгуен Фыонг Туан. В семинаре приняли участие заместитель министра науки и технологий , представители министерств общественной безопасности, финансов, юстиции, образования и профессиональной подготовки, предприятий в сфере цифровых технологий, эксперты и учёные.

Законопроект «Об индустрии цифровых технологий» состоит из 7 глав и 57 статей. Законопроект разработан на основе выборочного заимствования соответствующих положений Закона «Об информационных технологиях» и документов, регулирующих развитие индустрии информационных технологий; соответствует действующей правовой системе в сфере инвестиций, финансов, науки и технологий и синхронизирован с соответствующими законопроектами для обеспечения единства и согласованности правовой системы, что облегчает реализацию и применение.

Законопроект об индустрии цифровых технологий разработан в соответствии с единогласно одобренными правительством направлениями политики: деятельность в сфере цифровых технологий, продукты и услуги в сфере цифровых технологий; обеспечение развития индустрии цифровых технологий. Законопроект открывает новые и более радикальные перспективы в подходе к развитию индустрии цифровых технологий во Вьетнаме, в частности, предлагая превосходную льготную политику для иностранных инвесторов, а также политику участия отечественных предприятий в этой сфере с многочисленными возможностями. Благодаря важным поправкам многие эксперты, представители ассоциаций и предприятий ожидают, что Вьетнам станет ведущим направлением в Юго-Восточной Азии для инвесторов в цифровые технологии. Чтобы воплотить это ожидание в реальность, Вьетнам должен укреплять и создавать условия для привлечения инвестиций в развитие индустрии цифровых технологий.

Сцена конференции.

Обеспечение более комплексного управления рисками для ИИ

На семинаре делегаты сосредоточились на внесении вклада в регулирование механизма контролируемого тестирования продукции и услуг с применением цифровых технологий и искусственного интеллекта (ИИ), предлагаемого в законопроекте.

В настоящее время искусственный интеллект активно продвигается во многих странах, обладая потенциалом для применения в различных областях и отраслях, что позволяет постоянно создавать новые продукты. Однако высокорискованная система искусственного интеллекта – это система искусственного интеллекта, которая может создать серьёзные риски и нанести ущерб здоровью, правам и интересам человека, общественным интересам, общественному порядку и безопасности. Поэтому министерства и ведомства, исходя из реальной ситуации, разрабатывают и выпускают руководящие принципы этических правил разработки, внедрения и использования систем искусственного интеллекта в соответствующих областях.

Г-жа Чу Тхи Хоа, заместитель директора Института стратегии и правовых наук Министерства юстиции, отметила, что при разработке, предоставлении и использовании ИИ необходимо обеспечить гибкость и адаптивность; система должна регулярно оцениваться, пересматриваться и дополняться для оперативного удовлетворения практических потребностей. При этом ИИ должен быть разнообразным и инклюзивным, подходящим для всё более широкого охвата во всех областях, поскольку в будущем разработка, внедрение и использование ИИ будут становиться всё более разнообразными.

В статье 11 проекта Закона о цифровой технологической индустрии предусмотрены запрещённые действия (включая действия, связанные с искусственным интеллектом). Однако, по мнению г-жи Чу Ти Хоа, Редакционному комитету следует учитывать, что помимо перечисления запрещённых действий необходимо также включить положения, ограничивающие права, учитывая виды действий, которые могут быть совершены только при определённых условиях (например, использование высокорискованного искусственного интеллекта). Положения об ограничении прав в целях соблюдения пункта 2 статьи 14 Конституции 2013 года должны быть закреплены в законодательных актах. Поэтому Редакционному комитету следует рассмотреть возможность внесения дополнительных положений для обеспечения более полного управления рисками, связанными с искусственным интеллектом.

В процессе утверждения пробного проекта могут проводиться консультации с местными органами власти.

Комментируя механизм контролируемого тестирования, предлагаемый в проекте закона «О цифровой технологической индустрии», г-н Нгуен Дык Лам из Института политических исследований и развития СМИ (IPS) отметил, что вместо предоставления полномочий по утверждению механизма тестирования местные органы власти могли бы оказывать поддержку предприятиям, участвующим в тестировании, например, путем финансирования, содействия строительству, развития партнерских отношений, предоставления налоговых льгот или создания местных инновационных центров, работающих параллельно с национальной инициативой «песочницы». С местными органами власти можно было бы консультироваться в процессе утверждения тестирования, особенно если бизнес-инновация важна для данной местности, например, в рамках «умных городов» или местных инициатив в области финансовых технологий.

Разработчик законопроекта может добавить следующие положения об обязанностях министерств, ведомств министерского уровня и провинциальных народных комитетов (при наличии). Кроме того, необходимо публиковать информацию о процедурах и механизмах тестирования, руководящие документы, контактные данные министерств, ведомств министерского уровня и провинциальных народных комитетов на электронном информационном портале, чтобы предприятия могли легко найти, изучить и связаться с ними. Обязанность государственных органов заключается в разъяснении общественности случаев, когда предприятия, участвующие в механизмах тестирования, наносят существенный ущерб потребителям или не выполняют свои обязательства; публиковать прозрачные отчеты с подробным описанием эффективности и результатов тестирования.

Что касается предприятий, они могут подать жалобы или иски против регулирующего органа, если считают, что он не выполняет свои обязанности надлежащим образом. Например, если агентство действует самовольно, игнорирует правила, не предоставляет адекватных и корректных рекомендаций, нанося ущерб бизнесу, затягивает рассмотрение и утверждение, нанося ущерб бизнесу, или допускает дискриминацию в процессе утверждения и надзора.

Завершая семинар, заместитель председателя Комитета по науке, технологиям и окружающей среде Нгуен Фыонг Туан подтвердил важность участия в разработке положений о механизме контролируемого тестирования продукции и услуг с применением цифровых технологий и искусственного интеллекта, предложенных в проекте закона «О цифровой индустрии». Высказанные на семинаре замечания станут важной основой для доработки законопроекта как разработчиками, так и экспертами перед его представлением в Национальное собрание для рассмотрения и обсуждения на предстоящей 9-й сессии.

По данным электронного информационного портала Национальной ассамблеи Вьетнама

Источник: https://mst.gov.vn/xem-xet-bo-sung-de-dam-bao-day-du-hon-ve-quan-ly-rui-ro-doi-voi-tri-tue-nhan-tao-197251101210619706.htm