Искусственный интеллект: мы должны повысить безопасность, а не просто сосредоточиться на разработке более сильных

Вместо того чтобы сосредоточиться только на развитии ИИ с целью стать сильнее, влиятельные мировые эксперты в области ИИ предупреждают, что людям необходимо срочно подумать о том, как жить с ИИ — сущностью, которая умнее их самих, и не дать ей отобрать у людей контроль.

Панельная дискуссия «ИИ для человечества: этика и безопасность ИИ в новую эпоху» в рамках Недели науки и технологий VinFuture 2025 объединяет ученых , политиков и изобретателей для обсуждения ответственного развития ИИ в направлении гуманистических ценностей.

Срочно подумайте, как жить с ИИ — существом, которое умнее вас.

Выступая на семинаре, профессор Тоби Уолш из Университета Нового Южного Уэльса (Австралия), академик Американской компьютерной ассоциации, заявил: «Я твёрдо убеждён, что ответственное использование ИИ должно быть обязательным. Сегодня существует множество порочных стимулов, поскольку огромные суммы денег зарабатываются благодаря ИИ, и единственный способ обеспечить надлежащее поведение — это применять строгие правила, чтобы общественные интересы всегда были сбалансированы с коммерческими».

Он привёл типичный пример принятия важных решений, таких как вынесение приговора и определение меры пресечения в США, где система искусственного интеллекта использовалась для вынесения рекомендаций относительно срока тюремного заключения и вероятности рецидива. К сожалению, эта система была обучена на исторических данных и непреднамеренно отражала прошлые расовые предрассудки, что привело к дискриминации чернокожих.

Профессор Тоби Уолш, Университет Нового Южного Уэльса, Австралия, член Американского компьютерного общества.

Поэтому компании, которые внедряют и эксплуатируют системы ИИ, должны нести ответственность за последствия, которые вызывают эти «машины».

Профессор Джеффри Хинтон, лауреат главной премии VF 2024, обеспокоен тем, что ИИ постепенно совершенствуется в разработке опасных вирусов, кибератак и создании фейковых видеороликов для срыва выборов. В ближайшие 20 лет ИИ станет умнее нас, и мы не будем знать, как помешать ему взять контроль над людьми.

Поэтому профессор подчеркнул: «Нам необходимо срочно подумать о том, как жить с существами, которые умнее нас. Это ситуация, с которой человечество никогда раньше не сталкивалось, она нова, и нам нужно провести массу исследований, прежде чем это произойдёт».

Необходимость усиления международного сотрудничества для ограничения рисков, связанных с ИИ

Разделяя эту обеспокоенность, профессор Йошуа Бенджио, лауреат главной премии VinFuture 2024, отметил, что модели ИИ, их возможности и уровни автономности продолжают развиваться быстрыми и устойчивыми темпами. Если эта тенденция сохранится, автономные системы ИИ смогут превзойти человека в большинстве когнитивных задач всего за 5–10 лет.

Это был бы исторический поворотный момент, который мог бы значительно улучшить качество нашей жизни. Но если не отнестись к нему с осторожностью, он также может представлять огромную угрозу демократии, геополитической стабильности и даже будущему человечества.

«Мы должны повысить безопасность передового ИИ, а не просто сосредоточиться на его совершенствовании. Безопасность и доверие — не второстепенные факторы, а важнейшие составляющие процесса развития на благо человечества. Нам необходимо действовать сообща как на политическом, так и на научном уровне», — сказал он.

Профессор Йошуа Бенджио — обладатель главной премии VinFuture 2024.

Этот учёный считает, что с точки зрения политики миру необходимо международное сотрудничество. С точки зрения науки, необходимо лучше понимать, как создать ИИ, который одновременно превосходит людей по своим возможностям и безвреден для них, поддерживать способность управлять ИИ так, чтобы он вёл себя безопасно, даже когда люди просят его совершать неправильные действия, и создавать технические и социальные барьеры, чтобы гарантировать соответствие ИИ человеческим нормам, намерениям, ценностям и интересам.

Доктор Винтон Грей Серт (вице-президент и директор по интернет-евангелизации в Google, обладатель Гран-при премии VF 2022) согласен: «Нам необходимо привлечь ИИ к ответственности, создать цепочку контроля, чтобы знать, что он делает, когда, особенно если что-то идёт не так. Многие принципы, применимые к людям, будут применимы и к ИИ-агентам в онлайн-среде».

«Нам необходимо одновременно установить новые нормы, в которых использование надёжной идентификации, криптографии для защиты информации, применение механизмов обеспечения ответственности и защиты персональных данных от перехвата третьими лицами станет обычной практикой. Мы должны использовать технологии для ограничения рисков с самого начала и чётко понимать, что любой, кто признан вредным для сообщества и общества, должен отвечать за свои действия. Это требует международного сотрудничества», — сказал он.

Вьетнаму необходимо иметь собственный путь в создании данных ИИ.

Доцент Луу Ань Туан из Наньянского технологического университета (Сингапур) и Университета ВинУни (Вьетнам) отметил, что в других странах имеются наборы данных, охватывающие период около 10 лет, а Вьетнам начинает с нуля. Поэтому мы можем создавать устойчивые данные с самого начала, предоставляя чистые, этичные и культурно приемлемые данные.

Однако самой большой проблемой для Вьетнама является специфика вьетнамского языка. У нас разнообразная диалектная система, богатая региональная культура и чрезвычайно сложные формы обращения. Крупные платформы, такие как ChatGPT или Gemini, поддерживают вьетнамский язык, но качество перевода невысокое, поскольку они не понимают вьетнамский диалект, обычаи и историю.

Вьетнаму необходимо создать собственную вьетнамскую модель. Кроме того, нам следует разработать модель с открытым исходным кодом, чтобы малый бизнес мог её использовать и вносить свой вклад. «Если мы будем полагаться только на зарубежные модели в виде „чёрных ящиков“, мы будем лишь пользователями ИИ , а не разработчиками», — сказал он.

В настоящее время доцент Луу Ань Туан и его коллеги работают над созданием данных для вьетнамского искусственного интеллекта. При этом особое внимание следует уделять таким факторам, как диалект, история и культура.

Он также отметил, что за рубежом школьников очень рано знакомят с искусственным интеллектом. Вьетнам только начинает этот процесс, но мы можем ускорить его, изучая и адаптируясь соответствующим образом.

«Молодые вьетнамцы очень динамичны; им просто нужно получить полное представление о цифровой ответственности. Нам нужен единый орган для подтверждения и стандартизации качества данных и этических стандартов. VinUni также участвует в совете по созданию системы этических стандартов и продолжит вносить свой вклад в этот процесс», — сказал он.

Доцент Луу Ань Туан, Наньянский технологический университет (Сингапур), Университет VinUni (Вьетнам).

В ответ на стратегию прямых иностранных инвестиций, нацеленную на то, чтобы Вьетнам к 2030 году стал лидером региона в области искусственного интеллекта, доцент Туан считает, что Вьетнам обладает высококвалифицированными кадрами, что подтверждается международными достижениями в области математики, физики и химии. Если мы сумеем объединить усилия и проводить действенную политику, цель 2030 года может быть полностью достигнута.

Профессор Тоби Уолш рекомендует Вьетнаму инвестировать в людей и активно развивать их навыки, обеспечивать их понимание ИИ; поддерживать предпринимателей, компании и университеты, занимающиеся ИИ. Вместо того, чтобы ждать, пока другие страны передадут нам технологии или направят нас, мы должны действовать активно и осваивать эти технологии.

Кроме того, Вьетнаму необходимо активно мобилизовать платформы социальных сетей для создания безопасной среды для внутренних пользователей, не нанося при этом ущерба демократии в стране.

ТАО ЛЕ-ТИЕН ЛАМ

Источник: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html