Использование систем искусственного интеллекта для создания фейкового контента, угрожающего национальной безопасности, запрещено.

Закон об искусственном интеллекте, недавно принятый Национальным собранием, устанавливает запрещенные действия в сфере деятельности, связанной с искусственным интеллектом (ИИ), включая использование систем ИИ для создания или распространения фейкового контента, который может серьезно угрожать национальной безопасности, общественному порядку и социальной безопасности.

Днём 10 декабря Национальное собрание приняло Закон об искусственном интеллекте, за который проголосовали 429 из 434 присутствовавших делегатов (что составляет 90,7% от общего числа делегатов Национального собрания).

Закон об искусственном интеллекте состоит из 8 глав и 35 статей, регулирующих исследования, разработку, предоставление, внедрение и использование систем искусственного интеллекта; права и обязанности соответствующих организаций и физических лиц; а также государственное управление деятельностью в области искусственного интеллекта во Вьетнаме. Деятельность в области искусственного интеллекта, осуществляемая исключительно в целях национальной обороны, безопасности и криптографии, не подпадает под действие настоящего Закона.

Результаты голосования по принятию Закона об искусственном интеллекте. (Фото: Дуй Линь)

4 фундаментальных принципа работы искусственного интеллекта

Согласно недавно принятому Национальным собранием закону, деятельность в сфере искусственного интеллекта должна обеспечивать соблюдение четырех основных принципов, в том числе:

Ставить людей в центр внимания, обеспечивать соблюдение прав человека, права на неприкосновенность частной жизни, национальных интересов, общественных интересов и национальной безопасности; придерживаться Конституции и законов.

Искусственный интеллект служит человечеству, а не заменяет человеческий авторитет и ответственность. Он обеспечивает сохранение человеческого контроля и возможность вмешательства во все решения и действия системы искусственного интеллекта; безопасность системы, безопасность данных и конфиденциальность информации; а также возможность проверки и мониторинга развития и функционирования системы.

Обеспечение справедливости, прозрачности, беспристрастности, отсутствия дискриминации и причинения вреда отдельным лицам или обществу; соблюдение вьетнамских этических норм и культурных ценностей; и подотчетность за решения и последствия системы.

Содействие развитию экологичного, инклюзивного и устойчивого искусственного интеллекта; поощрение разработки и применения технологий искусственного интеллекта, которые являются энергоэффективными, ресурсосберегающими и снижают негативное воздействие на окружающую среду.

Классификация и управление системами искусственного интеллекта на основе оценки рисков.

Закон об искусственном интеллекте предусматривает классификацию и управление системами искусственного интеллекта по трем уровням риска: высокому, среднему и низкому.

К системам искусственного интеллекта высокого риска относятся те, которые могут нанести существенный вред жизни, здоровью, законным правам и интересам организаций и отдельных лиц, национальным интересам, общественным интересам и национальной безопасности;

Система искусственного интеллекта средней степени риска — это система, которая потенциально может ввести пользователей в заблуждение, повлиять на них или манипулировать ими, поскольку они не способны распознать, что взаимодействующий объект является системой искусственного интеллекта или что генерируемый ею контент не соответствует действительности.

Оставшиеся системы искусственного интеллекта относятся к системам с низким уровнем риска.

Классификация рисков систем искусственного интеллекта определяется на основе таких критериев, как степень воздействия на права человека, безопасность и защищенность; область применения системы, особенно в важных областях или непосредственно связанных с общественными интересами; круг пользователей; и масштаб влияния системы.

Министр науки и технологий Нгуен Мань Хунг представляет доклад об одобрении, разъяснении и доработке проекта закона перед голосованием в Национальном собрании. (Фото: Дуй Линь)

Запрещенные действия в операциях с искусственным интеллектом

Закон об искусственном интеллекте также предусматривает запрещенные действия в сфере деятельности, связанной с искусственным интеллектом, а именно:

Использование или захват систем искусственного интеллекта для совершения противоправных действий и нарушения законных прав и интересов организаций и отдельных лиц.

Разработка, предоставление, внедрение или использование систем искусственного интеллекта с целью: совершения действий, запрещенных законом; использования фальсифицированных или смоделированных реальных людей или событий для преднамеренного и систематического обмана или манипулирования человеческим восприятием и поведением, причиняя серьезный вред правам человека и законным интересам; эксплуатации слабостей уязвимых групп, включая детей, пожилых людей, людей с инвалидностью, этнические меньшинства или людей с ограниченными возможностями, а также лиц с когнитивными нарушениями или проблемами с контролем поведения, для причинения вреда себе или другим; создания или распространения фальсифицированного контента, способного серьезно угрожать национальной безопасности, общественному порядку и социальной безопасности.

Сбор, обработка или использование данных для разработки, обучения, тестирования или эксплуатации систем искусственного интеллекта в нарушение законов о защите данных, персональных данных, интеллектуальной собственности и кибербезопасности.

Препятствование, вывод из строя или искажение человеческих механизмов мониторинга, вмешательства и контроля систем искусственного интеллекта, как это предусмотрено настоящим Законом.

Сокрытие информации, которая должна быть раскрыта, обнародована или разъяснена; удаление или фальсификация обязательной информации, меток или предупреждений в операциях с использованием искусственного интеллекта.

Использование результатов исследований, испытаний, оценки или проверки систем искусственного интеллекта для совершения действий, нарушающих закон.

ВАН ТОАН

Источник: https://nhandan.vn/cam-su-dung-he-thong-ai-tao-noi-dung-gia-mao-gay-nguy-hai-an-ninh-quoc-gia-post929261.html