Поиск стандартов безопасности для искусственного интеллекта

СГГП 31 июля 2023 г., 09:35

После того, как Европа начала разработку и вскоре приняла первый в мире закон об искусственном интеллекте (ИИ), четыре ведущих американских гиганта в области интернет-анализа данных только что создали группу под названием Frontier Model Forum.

Основная цель форума Frontier Model — ответственное продвижение искусственного интеллекта. Фото: THINKWITHNICHE

Стороны сближаются

Группа, в которую входят Anthropic, Google, Microsoft и OpenAI (владелец ChatGPT), заявила, что основными целями Frontier Model Forum являются содействие снижению рисков, связанных с платформами ИИ, и разработка отраслевых стандартов. Frontier Model Forum создаст новый форум со следующими основными задачами: содействие исследованиям в области безопасности ИИ для поддержки разработки, снижения рисков и стандартизации оценок и уровней безопасности; выявление передовых практик разработки и внедрения моделей; содействие пониманию общественностью сути, возможностей, ограничений и последствий применения этой технологии; сотрудничество с политиками, учёными, гражданским обществом и компаниями для обмена знаниями о рисках и безопасности.

Технологические гиганты традиционно сопротивлялись усилению регулирования, но на этот раз технологическая индустрия в целом изменила свою позицию в отношении растущей обеспокоенности рисками, связанными с ИИ. Компании, участвующие в инициативе Frontier Model Forum, обязались обмениваться передовым опытом между собой и предоставлять информацию в распоряжение правительств и гражданского общества.

В частности, форум Frontier Model Forum сосредоточится на крупномасштабных, но пока ещё только развивающихся платформах машинного обучения, которые выводят искусственный интеллект на новый уровень сложности, что также является потенциальным фактором риска. Кроме того, форум Frontier Model Forum будет поддерживать разработку приложений, решающих важные общественные проблемы, такие как смягчение последствий изменения климата и адаптация к нему, раннее выявление и профилактика рака, а также противодействие киберугрозам.

Место для потенциального разрушения

Объявление американских компаний о создании форума Frontier Model появилось через несколько дней после того, как 25 июля сенаторы США на слушаниях в подкомитете Судебного комитета Сената США предупредили о риске использования ИИ для биологических атак. Недавно семь крупных технологических компаний, включая OpenAI, Alphabet и Meta, добровольно взяли на себя обязательство перед Белым домом разработать систему идентификации всего контента, созданного с помощью ИИ (текста, изображений, аудио и видео) , чтобы обеспечить прозрачность для пользователей и повысить безопасность этой технологии.

Дарио Амодеи, генеральный директор AI Anthropic, отметил, что, хотя ИИ пока не способен создавать биологическое оружие, это представляет собой «среднесрочный» риск и серьёзную угрозу национальной безопасности США в ближайшие два-три года. Причина в том, что субъекты, осуществляющие масштабные атаки с применением биологического оружия, больше не ограничиваются теми, кто обладает специальными знаниями в этой области.

Мир столкнулся с взрывным ростом количества контента, создаваемого с помощью технологий генеративного ИИ. От США и Европы до Азии контроль постепенно ужесточается. По данным CNN, начиная с сентября, Сенат США проведёт серию из девяти дополнительных семинаров для своих членов, чтобы узнать о влиянии ИИ на занятость, национальную безопасность и интеллектуальную собственность. Если соглашение будет достигнуто, то раньше США в следующем году Европейский союз примет первый в мире закон об управлении ИИ, который, как ожидается, вступит в силу с 2026 года.

Преимущества ИИ для общества неоспоримы, но всё чаще появляются опасения относительно потенциальных рисков этой новой технологии. В июне Генеральный секретарь ООН Антониу Гутерриш поддержал предложение ряда руководителей организаций, занимающихся вопросами ИИ, о создании международного органа по надзору за ИИ, аналогичного Международному агентству по атомной энергии (МАГАТЭ).

На форуме Frontier Model президент Microsoft Брэд Смит заявил, что эта инициатива — важный шаг на пути к объединению технологических компаний для продвижения ответственного использования ИИ на благо всего человечества. Аналогичным образом, вице-президент OpenAI по глобальным вопросам Анна Маканджу отметила, что передовые технологии ИИ могут принести обществу огромную пользу, и для этого необходимы надзор и управление.

Источник