Совет эксперта: не спешите легализовать ИИ

(NLDO) - Семинар привлек внимание исследователей, преподавателей, студентов и экспертов в области технологий и права.

7 октября Университет экономики и права (VNU-HCM) совместно с юридической газетой города Хошимин организовал научную конференцию на тему «Искусственный интеллект и право: международный опыт и некоторые предложения для Вьетнама».

Нужна гибкость вместо «жесткой рамки»

Выступая на семинаре, доцент доктор Нго Хыу Фыок, заместитель декана факультета экономического права Университета экономики и права, представил доклад о влиянии искусственного интеллекта (ИИ) на правовую систему, законодательном опыте стран по всему миру и политических предложениях для Вьетнама.

Доцент, доктор Нго Хыу Фыок, заместитель декана факультета экономического права Университета экономики и права, представил свой доклад. Фото: Оргкомитет

По словам г-на Фуока, Китай — одна из стран с выдающимся подходом к управлению ИИ. В стране применяется многоуровневая модель, сочетающая базовые законы, такие как Закон о кибербезопасности (2017 г.), Закон о безопасности данных (2021 г.), Закон о защите персональных данных (2021 г.), со специализированными нормативными актами, местными правилами и техническими стандартами «мягкого права». Такой подход позволяет Китаю не только строго контролировать сферу, но и создавать условия для тестирования технологий в рамках контроля.

Главные преимущества — скорость и гибкость, позволяющие оперативно корректировать политику в соответствии с технологическими практиками, одновременно способствуя развитию мощной экосистемы искусственного интеллекта. Однако эта модель также имеет ограничения, связанные с конфиденциальностью, дублированием правовых норм и риском подавления инноваций из-за активного вмешательства государства.

Опираясь на международный опыт, доцент доктор Нго Хыу Фыок считает, что Вьетнаму пока не следует принимать отдельный закон об ИИ на данном этапе. Причина в том, что внутренняя экосистема ИИ ещё не достаточно зрелая для легализации. Между тем, «жёсткая правовая база» будет препятствовать инновациям. С другой стороны, ресурсы государственного управления по-прежнему ограничены.

Вместо этого он предложил выпустить этические рамки (кодекс поведения) в области ИИ, чтобы направлять ответственное поведение и развитие; создать «песочницу» для ИИ, позволяющую проводить контролируемое тестирование; а также внести поправки и дополнения в существующие законы с целью интеграции положений, связанных с ИИ, в существующую правовую систему.

По мнению экспертов, эти ориентации помогут Вьетнаму гибко, безопасно и в соответствии с реальными условиями страны использовать возможности ИИ.

Когда ИИ стучится в дверь больницы

По словам доцента, доктора Ле Минь Кхоя, заведующего кафедрой науки и обучения медицинского и фармацевтического университетов Хошимина, по сравнению с такими областями, как экономика или коммуникации, ИИ в медицине развивается уже давно, предлагая множество передовых моделей. Однако практическое применение пока не даёт результатов. «Врачи всё ещё пытаются понять, является ли ИИ «другом» или «врагом», — поделился доцент, доктор Ле Минь Кхой.

По словам доцента, доктора Ле Минь Хоя, внедрение ИИ в медицинскую сферу влечет за собой ряд потенциальных рисков, таких как безопасность и конфиденциальность данных, предвзятость алгоритмов и этика, вопросы безопасности, ответственности и прозрачности...

Один из серьёзных рисков — «иллюзия» ИИ. Если в широко развёрнутой системе произойдут ошибки, последствия могут затронуть тысячи пациентов. Вопрос ответственности также стоит остро: если ИИ приводит к ошибкам в диагностике или лечении, кто несёт ответственность — врач, использующий систему, разработчик системы, дистрибьютор, больница или регулирующий орган?

Сцена конференции - Фото: Оргкомитет

Кроме того, если врачи слишком полагаются на ИИ, они могут потерять способность мыслить и принимать клинические решения, а также постепенно утратить способность выявлять и исправлять ошибки, при этом человеческий контроль остаётся незаменимым фактором. Кроме того, консервативный менталитет, страх потерять работу или недостаточное понимание технологий также заставляют многих медицинских работников опасаться использования ИИ.

Говоря о правовых проблемах, доцент доктор Ле Минь Хой отметил, что темпы развития ИИ в настоящее время значительно превышают возможности системы регулирования. Технологии развиваются слишком быстро, а регулирование — медленно, что приводит к тому, что мы оказываемся в «удушающей» ситуации между двумя крайностями: ужесточение регулирования подавит инновации, а ослабление — создаст риски для пациентов. Кроме того, инфраструктура медицинских данных во Вьетнаме по-прежнему фрагментирована, несогласованна и отличается нестабильным качеством, что затрудняет обучение и тестирование моделей ИИ.

Г-н Хой пришел к выводу, что ИИ — это не только прекрасная возможность для медицинской отрасли, но и проверка способности человека к адаптации, открытости и ответственности в цифровую эпоху.

Источник: https://nld.com.vn/chuyen-gia-gop-y-khong-voi-luat-hoa-ai-196251007140039549.htm