Исследование и разработка ответственных систем искусственного интеллекта.

По данным Министерства науки и технологий , следуя общей мировой тенденции, системы искусственного интеллекта, как ожидается, принесут большую пользу людям, обществу и экономике Вьетнама, помогая решать сложные проблемы, с которыми сталкиваются люди и сообщества. Наряду с этим необходимо проводить исследования и принимать меры по минимизации рисков, связанных с разработкой и использованием искусственного интеллекта, а также учитывать связанные с этим экономические, этические и правовые факторы. Поэтому специализированным ведомствам необходимо проводить исследования и разрабатывать стандарты и руководящие принципы, даже если они носят мягкий и необязательный характер.

В рекомендациях Министерства науки и технологий изложены девять принципов исследований и разработок ответственных систем искусственного интеллекта.

Во-первых, дух сотрудничества и поощрения инноваций: разработчикам необходимо продумать взаимосвязь и взаимодействие между своими системами ИИ и другими системами ИИ, принимая во внимание разнообразие систем, чтобы повысить преимущества системы, одновременно улучшая координацию для контроля рисков.

Во-вторых, прозрачность: системы искусственного интеллекта, соответствующие этому принципу, часто представляют собой системы, способные повлиять на жизнь, здоровье, конфиденциальность или имущество пользователей или связанных с ними третьих лиц. В этом случае разработчикам необходимо уделять внимание возможности чёткой идентификации входных и выходных данных системы, а также соответствующей объяснимости, основанной на характеристиках применяемых технологий и способах их использования, для обеспечения доверия общества, включая пользователей.

В-третьих, управляемость: для оценки рисков, связанных с управляемостью системы, разработчикам необходимо провести предварительную оценку её соответствия техническим требованиям и стандартам. Одним из методов оценки рисков является проведение испытаний в отдельном помещении с соблюдением мер безопасности перед её практической реализацией.

В-четвертых, принцип безопасности: разработчикам необходимо гарантировать, что система искусственного интеллекта не причинит вреда жизни, телу или имуществу пользователей или третьих лиц, в том числе через посредников.

5. Принципы безопасности: Помимо соблюдения документов, инструкций и реализации предписанных мер информационной безопасности, разработчикам необходимо уделять внимание таким моментам, как: надежность и устойчивость системы к физическим атакам или авариям; конфиденциальность; целостность; и доступность необходимой информации, связанной с информационной безопасностью системы...

6. Конфиденциальность: Разработчикам необходимо гарантировать, что системы ИИ не нарушают конфиденциальность пользователей или третьих лиц. Конфиденциальность включает в себя пространственную конфиденциальность (спокойствие в личной жизни), конфиденциальность информации (персональных данных) и конфиденциальность коммуникаций. Разработчикам необходимо соблюдать действующие правила и рекомендации; международные стандарты и рекомендации по конфиденциальности можно найти здесь.

Разработчикам следует проводить предварительную оценку рисков нарушения конфиденциальности и предварительную оценку воздействия на конфиденциальность. По возможности, принимайте меры, соответствующие характеристикам применяемой технологии, на протяжении всего процесса разработки системы, чтобы избежать нарушения конфиденциальности при её использовании.

В-седьмых, уважение прав и достоинства человека: При разработке систем искусственного интеллекта с участием людей разработчики должны уделять особое внимание уважению прав и достоинства участвующих лиц. В зависимости от характеристик применяемой технологии, разработчики должны принимать меры, чтобы исключить дискриминацию и несправедливость, вызванные предвзятостью данных при обучении системы.

Разработчикам необходимо принять меры предосторожности, чтобы гарантировать, что система не нарушает человеческие ценности и социальную этику в соответствии с основными принципами Вьетнама (например, такие ценности, как патриотизм, солидарность, самостоятельность, лояльность, честность, ответственность, дисциплина, креативность и т. д.).

8-е, поддержка пользователей: Чтобы оказывать поддержку пользователям, разработчикам системы необходимо уделять внимание таким моментам, как: создание готовых интерфейсов для предоставления своевременной и актуальной информации, помогающей пользователям принимать решения и пользоваться системой в удобное время; реализация мер по упрощению использования системы для уязвимых слоев населения (пожилых людей, инвалидов)...

9. Ответственность: Разработчики должны нести ответственность за разрабатываемые ими системы, чтобы завоевать доверие пользователей. В частности, им необходимо предоставлять пользователям информацию, помогающую им выбирать и использовать систему. Кроме того, для повышения уровня общественного признания систем разработчикам следует делать больше: предоставлять пользователям информацию и описания технических характеристик разрабатываемых ими систем, алгоритмов, механизмов безопасности и т. д.; прислушиваться к мнениям и вести диалог с заинтересованными сторонами.

Источник: https://nhandan.vn/nghien-cuu-phat-trien-cac-he-thong-tri-tue-nhan-tao-co-trach-nhiem-post814609.html