Необходимы особые правила для защиты детей от темной стороны ИИ.

Утром 21 ноября депутаты Национальной ассамблеи заслушали выступление министра науки и технологий Нгуена Мань Хунга, уполномоченного премьер-министром, с представлением проекта закона об искусственном интеллекте.

Министр науки и технологий Нгуен Мань Хунг представляет проект закона об искусственном интеллекте. Фото: QUANG PHUC

Председатель Комитета Национальной ассамблеи по науке, технологиям и окружающей среде (KHCN-MT) Нгуен Тхань Хай представил доклад об обзоре законопроекта, отметив, что Комитет согласен с необходимостью принятия Закона об искусственном интеллекте в контексте впечатляющего развития ИИ. Помимо быстрого развития, всё более широкого применения и позитивного влияния, ИИ также создаёт множество проблем с точки зрения экономики , общества, безопасности и охраны труда, а также потенциальных рисков, которые трудно предсказать.

Комитет по науке, технологиям и окружающей среде рекомендует редакционному агентству продолжить более тщательный анализ и оценку уровня институционализации политики и направлений партии, особенно в области разработки ИИ для людей и устойчивого развития; активно развивать приложения ИИ на основе больших данных для важных отраслей и сфер; привлекать, нанимать и удерживать ведущих ученых , экспертов и «главных инженеров» в стране и за рубежом в области разработки технологий ИИ...

Делегаты на утреннем заседании 21 ноября. Фото: QUANG PHUC

Что касается государственной политики в отношении искусственного интеллекта, Комитет по науке, технологиям и окружающей среде предложил дополнить некоторые положения политики, в частности, поощрение контролируемого тестирования передовых технологий ИИ, но с потенциальными рисками; содержание: Государство обеспечивает доступ к высококачественным большим данным для обучения моделей ИИ; Государство располагает механизмом привлечения и вознаграждения экспертов, ориентируя обучение кадровых ресурсов в соответствии с потребностями бизнеса; Государство проводит политику углубленного обучения и популяризации базовых цифровых знаний и навыков, этики ИИ для государственных служащих, населения, особенно детей, для безопасного использования ИИ.

Председатель Комитета Национальной ассамблеи по науке, технологиям и окружающей среде Нгуен Тхань Хай представляет доклад об обзоре проекта Закона об искусственном интеллекте. Фото: QUANG PHUC

Что касается механизма контролируемого тестирования ИИ, Комиссия признаёт, что тестирование является неизбежным этапом разработки продукта, особенно для новых и высокорисковых систем ИИ. Разрешение контролируемого тестирования необходимо для содействия инновациям. Поэтому необходимо изучить и дополнить механизм освобождения от ответственности за риски, возникающие в процессе тестирования, при соблюдении организациями и физическими лицами установленных нормативных требований.

Однако механизм контролируемого тестирования регламентирован Законом о науке, технологиях и инновациях, проектом Закона о цифровой трансформации и руководящими документами по «песочницам». Поэтому во избежание дублирования предлагается, чтобы этот закон регулировал только конкретное содержание тестирования систем искусственного интеллекта, при этом он фокусируется на механизме постинспекции, оценке результатов тестирования и обеспечивает упрощение административных процедур.

Комитет полагает, что для уязвимых групп, таких как дети, ИИ также имеет тревожные недостатки: когда дети слишком зависят от ИИ, чтобы находить ответы или решать задания, они теряют возможность практиковать независимое мышление, анализ и творчество; склонны к девиантному поведению; могут ошибочно принять ИИ за настоящего друга и следовать советам ИИ, которые могут быть неуместными или опасными; могут подвергаться манипуляциям или обману.

Инспекционное агентство сослалось на опыт других стран, показав, что закон Италии об ИИ предусматривает, что лица младше 14 лет могут использовать ИИ только с согласия своих родителей или опекунов; согласно недавнему предложению, пользователи в ЕС должны быть старше 16 лет, чтобы использовать ИИ без согласия родителей; Закон штата Калифорния (США) о контроле за чат-ботами на основе ИИ предусматривает, что платформы ИИ обязаны каждые 3 часа четко уведомлять пользователей младше 18 лет о том, что они общаются с чат-ботом, а не с человеком.

В связи с этим Комитет рекомендует органу, разрабатывающему законопроект, изучить и дополнить конкретные нормативные акты, направленные на защиту детей от негативных аспектов ИИ, научить детей использовать ИИ безопасным и здоровым образом, а также повысить роль и ответственность родителей и школ в контроле и повышении осведомленности детей об ИИ.

ФАН ТАО

Источник: https://www.sggp.org.vn/can-co-quy-dinh-rieng-nham-bao-ve-tre-em-truoc-mat-trai-cua-ai-post824617.html