Необходимо разработать современный синхронный механизм управления ИИ
Выразив одобрение подхода к разработке настоящего Закона как рамочного закона для управления и поощрения исследований, разработок, внедрения и использования искусственного интеллекта во Вьетнаме, депутаты Национального собрания высоко оценили подготовку проекта Закона; досье законопроекта было тщательно составлено и соответствовало нормативным актам; в то же время предложение об отмене ряда взаимосвязанных статей и положений Закона о цифровой технологической индустрии необходимо для предотвращения дублирования и создания единой правовой базы для управления и поощрения развития искусственного интеллекта. Однако для завершения работы над этим законопроектом депутаты поручили Редакционному комитету продолжить рассмотрение, внесение изменений, дополнений и отмену ряда статей и положений соответствующим образом.
Сцена встречи Группы 6 утром 21 ноября. Фото: Хо Лонг
В частности, касаясь сферы регулирования и субъектов, депутат Национальной ассамблеи Фам Чонг Нгиа (Ланг Сон) заявил о необходимости дальнейшего прояснения этого вопроса. В настоящее время положения законопроекта, касающиеся «исследовательской деятельности», рискуют дублировать положения, уже регулируемые Законом о науке , технологиях и инновациях. В то же время, в законопроекте не прописана конкретная политика по содействию исследованиям в области систем искусственного интеллекта, а также нет четкого определения субъектов, осуществляющих эту деятельность. Поэтому делегат предложил уточнить, какие виды деятельности подпадают под сферу регулирования Закона, какие виды деятельности подпадают под действие действующего Закона, чтобы обеспечить осуществимость, последовательность и избежать дублирования.
Депутат Национальной ассамблеи Фам Чонг Нгиа ( Ланг Сон ) комментирует проект закона об искусственном интеллекте. Фото: Хо Лонг
Говоря об уточнении терминов, депутат Национальной ассамблеи Фам Чонг Нгиа уделил особое внимание понятию «тонкой настройки» в универсальной модели искусственного интеллекта. Представитель отметил, что это специализированный термин, пока не получивший широкого распространения, поэтому его содержание необходимо чётко определить для облегчения применения и обеспечения соблюдения закона в будущем. В настоящее время в проекте закона о Национальном комитете по искусственному интеллекту содержится только одно предложение, в котором нечётко прописаны: правовой статус; функции, задачи, полномочия; организационная структура, механизм работы; взаимоотношения с министерствами и ведомствами. В связи с этим представитель предложил уточнить необходимость создания этого института и одновременно оценить его соответствие политике оптимизации аппарата в соответствии с партийными уставами. В случае дальнейшего сохранения необходимо дополнить уставы или поручить правительству подробно проработать вышеуказанные вопросы.
Что касается запрещённых действий, делегаты отметили, что законопроект пока не содержит конкретных положений, хотя это важный «правовой щит» для защиты прав человека, обеспечения добросовестной конкуренции и соблюдения международных стандартов. В то же время, передовой в мире Закон об искусственном интеллекте (ИИ) чётко определяет такие запрещённые действия, как злоупотребление персональными данными, систематическая дискриминация, использование ИИ во вредоносных целях и т. д. Поэтому предлагается добавить отдельную статью о запрещённых действиях, основанную на принципах прозрачности, безопасности, подотчётности, человеческого контроля, справедливости, недискриминации и поддержки контролируемых инноваций.
Делегат Национальной ассамблеи Нгуен Тхи Суу (город Хюэ) выступила на утреннем заседании 21 ноября. Фото: Хо Лонг
Комментарии к проекту Закона, депутаты Национального Собрания Нгуен Тхи Суу (город Хюэ) сосредоточила внимание на анализе нормативных актов, связанных с инфраструктурой, человеческими ресурсами и этическими рамками ИИ — ключевыми столпами, определяющими эффективность реализации Закона на практике.
В частности, в главе III (статьи 17 и 18), регулирующей инфраструктуру искусственного интеллекта, делегаты отметили отсутствие чёткого определения дорожной карты внедрения национальной инфраструктуры искусственного интеллекта, роли министерств, ведомств, местных органов власти, а также предприятий и научно-исследовательских институтов в процессе строительства и эксплуатации. Делегаты предложили дополнить конкретный план внедрения сроками, обязанностями каждого ведомства и механизмом мониторинга для обеспечения его реализации после принятия закона.
Что касается развития человеческих ресурсов (статья 24), делегат Нгуен Тхи Суу отметила, что законопроект лишь устанавливает цели, но не предусматривает реального механизма поддержки учебных заведений и обучающихся, такого как финансирование, международные стандарты обучения или совместные программы с предприятиями и научно-исследовательскими институтами. Поэтому необходимо дополнить стипендиальную политику, поддержать обучение и содействовать государственно-частному партнерству.
Что касается Национальной этики ИИ (статья 27), делегаты отметили, что действующие правила носят лишь принципиальный характер и не предусматривают механизмов мониторинга, оценки и рассмотрения нарушений, что затрудняет обеспечение их обязательности на практике; в то же время термин «этика ИИ» не имеет четкого определения и не устанавливает конкретных обязанностей организаций и отдельных лиц в случае нарушения. Поэтому делегаты предложили заменить слово «обзор» на «публичный» в правилах по обновлению этики; одновременно добавить положения о создании Национального органа по этике ИИ, ответственного за мониторинг, оценку и рассмотрение нарушений; определить обязательства по соблюдению требований для организаций и отдельных лиц, разрабатывающих или эксплуатирующих высокорисковые системы ИИ; подтвердить юридическую силу Этической структуры ИИ, в соответствии с которой нарушения могут подлежать административным или уголовным санкциям; и поощрять участие общественных организаций, академических кругов и бизнеса в деятельности по формированию и оценке этики ИИ. «Только после завершения вышеперечисленных механизмов Структура этики ИИ станет эффективной, гарантируя, что технологии будут развиваться в правильном направлении, безопасно и на благо людей», — подчеркнула делегат Нгуен Тхи Суу.
Какова ответственность за ошибки ИИ?
Обсуждая проект закона об искусственном интеллекте, депутат Национальной ассамблеи Фам Нху Хьеп (город Хюэ) заявил, что искусственный интеллект вносит глубокие изменения в медицинскую сферу, от хирургии и диагностики до научных исследований. Делегат отметил, что дистанционная хирургия существует уже более 20 лет, и на сегодняшний день многие роботизированные системы способны выполнять эндоскопические операции без прямого участия человека. В условиях стремительного развития технологий, если ему это будет позволено, ИИ может полностью взять на себя некоторые этапы хирургического вмешательства, даже угрожая изменить традиционную роль хирургов. В области визуализационной диагностики ИИ широко применяется в больницах, включая Центральную больницу Хюэ, помогая в расшифровке рентгеновских снимков, компьютерной томографии и снимков головного мозга.
Делегат Национальной ассамблеи Фам Нху Хиеп (город Хюэ) высказал своё мнение о проекте закона об искусственном интеллекте в Группе 6. Фото: Хо Лонг
Однако делегаты подчеркнули необходимость ответственности за ошибки ИИ. В настоящее время все результаты ИИ по-прежнему должны проверяться и подтверждаться врачами и рентгенологами. Если результаты не соответствуют клиническим реалиям, врач редактирует и обновляет их, чтобы ИИ мог продолжать обучение. Этот процесс «пассивного обучения» применяется во многих больницах, но для обеспечения безопасности пациентов по-прежнему необходима чёткая правовая база.
Делегат Фам Нху Хьеп также выразил обеспокоенность влиянием ИИ на научные исследования, поскольку программы для проверки на плагиат стали популярными, и некоторые инструменты ИИ теперь позволяют написать практически целую докторскую диссертацию всего за один день, используя предоставленные данные. Это представляет собой серьёзную проблему для этики исследований и научной добросовестности и должно быть рассмотрено на предмет включения в специализированные правовые нормы.
Что касается юридической ответственности поставщиков ИИ (статья 13), делегаты предложили уточнить субъекта, ответственного за инциденты или аварии, вызванные системами ИИ. Типичным примером является случай с беспилотными автомобилями: в случае столкновения необходимо определить ответственность системы, производителя или оперативного органа управления. Делегат привел в пример аварию с участием автомобиля Tesla в 2015 году, которая вынудила производителя выплатить крупную компенсацию, заявив, что ИИ не может нести ответственность сам по себе, а ответственность должна лежать на людях – организациях и лицах, которые проектируют, производят и эксплуатируют систему.
Говоря о концепции этики ИИ, которая применяется во многих странах для определения допустимых и недопустимых действий ИИ, делегат Фам Нху Хьеп также признал, что, учитывая способность систем ИИ к самообучению, самоанализу и даже выходу за рамки изначально заложенных производителем ограничений, разработка и эксплуатация ИИ должны осуществляться в рамках правовых и этических рамок. Это необходимо не только для обеспечения безопасности общества, но и для создания основы для здорового развития индустрии ИИ во Вьетнаме.
Для эффективного управления ИИ необходимо четко определить входные данные и интеллектуальную собственность.
Соглашаясь с вышеизложенными мнениями, депутат Национальной ассамблеи Чинь Суан Ан (Донг Най) также сделал ряд глубоких замечаний по проекту Закона об искусственном интеллекте, сосредоточившись на основных группах вопросов: входные данные, интеллектуальная собственность, сфера применения, подход к управлению рисками и модель организации внедрения.
Делегат Национального собрания Чинь Суан Ан (Донг Най) выступает в Группе 6 утром 21 ноября. Фото: Хо Лонг
Что касается входных данных для ИИ, делегаты отметили, что данные являются основой искусственного интеллекта, однако законопроект не разъясняет это содержание. В настоящее время регулирование данных регулируется Законом о данных и Законом о защите персональных данных. Если в этом законе нет прямого упоминания, то, по крайней мере, должна быть полная ссылка. Делегаты согласились с требованием, чтобы данные были «корректными – достаточными – чистыми – актуальными», но подчеркнули необходимость добавления критерия систематизации и постоянного обновления данных, поскольку это является условием эффективной и безопасной работы ИИ.
Что касается интеллектуальной собственности, депутат Национальной ассамблеи Чинь Суан Ан отметил, что содержание законопроекта пока слишком схематично, в то время как ИИ является творением человека и тесно связан с вопросами авторского права, права собственности, юридической ответственности и этики. Если в законе не будет четко прописана составляющая интеллектуальной собственности, управление ИИ будет крайне затруднительным. Поэтому делегат рекомендовал внести поправки в Закон об интеллектуальной собственности и одновременно урегулировать вопросы права собственности в этом законе.
Что касается сферы применения, делегат указал на нелогичность статьи 1, где закон исключает применение ИИ для национальной обороны, безопасности, криптографии и разведки, но последующие положения открывают возможность корректировки в случае использования этих систем в других целях. В цифровой среде сложно разделить ИИ для целей безопасности, обороны и гражданских целей, поскольку ИИ может одновременно применяться в медицине, оборонной промышленности и беспилотных системах. Следовательно, исключение по областям применения нецелесообразно. Делегат предложил создать единую нормативную базу вместо разделения по целям использования.
Депутаты Национальной ассамблеи провинции Донгнай на заседании Группы 6 утром 21 ноября. Фото: Хо Лонг
Что касается подхода к управлению и классификации рисков, делегат заявил, что проект «применяет» европейскую модель управления, создавая ненужное бремя в условиях, когда Вьетнаму необходимо стимулировать развитие ИИ. Четырехуровневая классификация рисков, представленная в проекте, сложна и не соответствует Закону о качестве продукции. Делегат предложил классифицировать только две группы: рискованные и безрисковые продукты ИИ, а также объединить управление рисками с управлением, основанным на эффективности производства и экономическом эффекте. Он также отметил, что регулирование, предусматривающее самостоятельную оценку рисков предприятиями и возложение на правительство обязанности устанавливать критерии, является «полузакрытым, полуоткрытым» и сложно реализуемым на практике.
Говоря о модели организации внедрения, депутат Национального собрания Чинь Суан Ан выразил обеспокоенность по поводу предложения о создании внебюджетного финансового фонда и Национального комитета по ИИ. По мнению делегата, необходимо тщательно продумать необходимость этих институтов, избегая ситуации, когда «создаются фонды и комитеты для всего», но с низкой эффективностью. При необходимости фонд ИИ следует интегрировать в существующие фонды, за исключением особых случаев, таких как фонды национальной обороны и безопасности. Делегат также отметил, что ИИ должен быть связан с экономической деятельностью и инициативой предприятий, поэтому модель управления должна быть оптимизирована и ориентирована на реальную эффективность.
Делегат Национальной ассамблеи Буй Суан Тхонг (Донг Най)
Согласившись с вышеизложенным мнением, депутаты Национальной ассамблеи Нгуен Тхи Нху И и Буй Суан Тхонг (Донг Най) также подчеркнули важность этических рамок при использовании искусственного интеллекта. По мнению делегата Буй Суан Тхонга, если оговорено, что пользователи должны нести ответственность за решения, принимаемые ИИ, то в действительности окончательное решение всё равно остаётся за человеком. ИИ — это всего лишь инструмент для предоставления справочной информации. Лицо, принимающее окончательное решение, несёт за него ответственность. Следовательно, этические рамки должны быть сосредоточены на ответственности человека при использовании информации, полученной от ИИ, а не на том, что ИИ должен нести ответственность.
Что касается рассмотрения нарушений, делегаты отметили, что в проекте в целом указано, что нарушения могут быть рассмотрены в административном, гражданском или уголовном порядке, но неясны пределы ответственности. Поэтому рекомендуется чётко определить, какие действия будут подлежать уголовной ответственности, какие — административной, а также конкретные обязанности поставщика, разработчика и пользователя. В то же время необходимо дополнить перечень запрещённых действий и переработать эту структуру, сделав её более понятной, как для создания условий для развития ИИ, так и для чёткого определения ответственности соответствующих сторон.
Источник: https://daibieunhandan.vn/artificial-intelligence-must-operate-in-the-law-and-moral-system-10396524.html
Комментарий (0)