9 принципов ответственных исследований и разработок в области искусственного интеллекта

Иллюстрация фото. Источник: VNA

Соответственно, научным и технологическим учреждениям, организациям, предприятиям и отдельным лицам, занимающимся исследованиями, проектированием, разработкой и поставкой систем ИИ, рекомендуется применять положения настоящего руководящего документа.

Предлагается девять принципов ответственного исследования и разработки систем ИИ, в том числе: Дух сотрудничества, содействие инновациям; прозрачность; управляемость; безопасный; безопасность; конфиденциальность; уважение прав и достоинства человека; поддержка пользователей; подотчетность

Каждый принцип имеет инструкции по реализации. Например, что касается прозрачности, разработчикам необходимо уделять внимание контролю входов/выходов системы ИИ и возможности объяснения соответствующей аналитики. Соответственно, системы ИИ, соответствующие этому принципу, как правило, представляют собой системы, которые могут влиять на жизнь, тело, конфиденциальность или имущество пользователей или соответствующих третьих лиц.

Затем разработчикам необходимо обратить внимание на способность четко идентифицировать входные и выходные данные систем ИИ, а также на связанную с этим объяснимость на основе характеристик применяемых технологий и того, как они используются, чтобы обеспечить доверие со стороны общества, включая пользователей.

Что касается принципа уважения прав и достоинства человека, то при разработке систем искусственного интеллекта, в которых задействованы люди, разработчики должны уделять особое внимание соблюдению прав и достоинства вовлеченных лиц.

По мере возможности, в зависимости от характеристик применяемой технологии, разработчикам следует принимать меры для обеспечения того, чтобы они не вызывали дискриминации или несправедливости из-за предвзятости (предубежденности) в данных при обучении систем ИИ.

Разработчикам необходимо принять меры предосторожности, чтобы гарантировать, что системы ИИ не нарушают человеческие ценности и социальную этику в соответствии с основополагающими принципами Вьетнама (например, такие ценности, как патриотизм, солидарность, самостоятельность, лояльность, честность, ответственность, дисциплина, креативность и т. д.).

Известно, что по результатам оценки и объявлению в отчете «Индекс готовности правительства к внедрению искусственного интеллекта», проведенном Oxford Insight, в 2023 году Вьетнам поднялся на 5-е место в АСЕАН, обогнав Филиппины (после Сингапура, Малайзии, Таиланда, Индонезии). В 2023 году средний балл Вьетнама достиг 54,48 балла (в 2022 году он составил 53,96, а в 2021 году — 51,82 балла), что превышает среднемировой показатель и позволяет занять 59-е место из более чем 193 стран и территорий (в 2022 году — 55-е место из 181 страны и территории).

По данным Министерства науки и технологий , в текущих условиях необходимо исследовать и принимать меры по минимизации рисков в процессе разработки и использования ИИ, а также сбалансировать связанные с этим экономические, этические и правовые факторы. Поэтому профессиональным агентствам необходимо исследовать и разрабатывать стандарты и руководящие принципы, даже если они представляют собой мягкие и необязательные правила.

Кроме того, обмен информацией о процессах и передовой практике между заинтересованными сторонами (такими как разработчики, поставщики услуг, пользователи) также будет способствовать достижению консенсуса в целях увеличения преимуществ от систем ИИ и контроля рисков.

Министерство науки и технологий активно изучало опыт других стран и рекомендации таких организаций, как ЮНЕСКО, ООН, АСЕАН, G7, G20 и т. д., с целью разработки рекомендаций, инструментов и положений по этике в сфере ИИ, а также разработки ответственных продуктов ИИ (на основе исследований, проектирования, разработки и внедрения продуктов ИИ) в соответствии с действующими во Вьетнаме практиками и нормами.

  Заместитель министра науки и технологий Буй Тхе Зуй также заявил, что разработка руководящих принципов ответственных исследований и разработок в области ИИ во Вьетнаме должна строго соответствовать целям общества, ориентированного на человека, где люди получают выгоды как от жизни, так и от систем ИИ. В то же время необходимо обеспечить разумный баланс между преимуществами и рисками систем ИИ, в частности: продвигать преимущества ИИ посредством исследований, разработок и инновационной деятельности; и минимизировать риск нарушения законных прав или интересов организаций и отдельных лиц со стороны систем ИИ.

Обеспечить, чтобы научно-исследовательские и опытно-конструкторские работы в области систем ИИ основывались на конкретных технологиях или методиках, обеспечивая при этом технологическую нейтральность и не допуская влияния на разработчиков быстрого развития технологий, связанных с ИИ, в будущем.

Министерство науки и технологий также заявило, что принципы и рекомендации будут продолжать изучаться и обновляться с учетом практической ситуации.

Источник: https://dangcongsan.vn/khoa-hoc/9-nguyen-tac-nghien-cuu-phat-trien-he-thong-ai-co-trach-nhiem-667349.html