Поиск стандартов безопасности для искусственного интеллекта

СГГП 31.07.2023 09:35

После того, как Европа начала разрабатывать и вскоре приняла первый в мире закон об искусственном интеллекте (ИИ), четыре ведущих американских «гиганта» по добыче интернет-данных только что создали группу под названием Frontier Model Forum.

Основная цель Frontier Model Forum — продвижение ответственного ИИ. Фото: THINKWITHNICHE

Стороны собираются вместе

Группа, в которую входят Anthropic, Google, Microsoft и OpenAI, владелец ChatGPT, заявила, что основными целями Frontier Model Forum являются помощь в снижении рисков, создаваемых платформами ИИ, и разработка отраслевых стандартов. Frontier Model Forum создаст новый форум со следующими основными целями: содействие исследованиям безопасности ИИ для поддержки разработки, снижения рисков и стандартизации оценок и уровней безопасности; выявление передовых методов разработки и развертывания моделей и помощь общественности в понимании природы, возможностей, ограничений и последствий технологии; и сотрудничество с политиками, учеными, гражданским обществом и компаниями для обмена знаниями о рисках и безопасности.

Технологические гиганты традиционно сопротивлялись усилению регулирования, но на этот раз технологическая индустрия в значительной степени изменила свою позицию относительно рисков, связанных с ИИ. Компании, участвующие в инициативе Frontier Model Forum, обязались делиться передовым опытом между компаниями и делать информацию общедоступной для правительств и гражданского общества.

В частности, Frontier Model Forum сосредоточится на крупномасштабных, но еще только начинающихся платформах машинного обучения, которые выводят ИИ на новый уровень сложности, что также является потенциальным фактором риска. Кроме того, Frontier Model Forum также поддержит разработку приложений, которые решают основные социальные проблемы, такие как: смягчение последствий изменения климата и адаптация к ним, раннее выявление и профилактика рака и защита от киберугроз.

Место для потенциального разрушения

Объявление о форуме Frontier Model от американских компаний появилось через несколько дней после того, как 25 июля сенаторы США предупредили о риске использования ИИ для биоатак на слушаниях в подкомитете Судебного комитета Сената США. Недавно семь крупных технологических компаний, включая OpenAI, Alphabet и Meta, добровольно взяли на себя обязательство перед Белым домом разработать систему маркировки всего контента, созданного ИИ, от текста, изображений, аудио до видео , чтобы предоставить пользователям информационную прозрачность и сделать эту технологию более безопасной.

Хотя ИИ пока не способен создавать биологическое оружие, это «среднесрочный» риск, который может представлять серьезную угрозу национальной безопасности США в ближайшие два-три года, отметил Дарио Амодеи, генеральный директор AI Anthropic. Это связано с тем, что субъекты, осуществляющие масштабные биологические атаки, больше не ограничиваются теми, кто обладает специальными знаниями в этой области.

Мир сталкивается с взрывом контента, созданного с помощью генеративной технологии ИИ. От США до Европы и Азии регулирующие меры постепенно ужесточаются. По данным CNN, начиная с сентября Сенат США проведет серию из девяти дополнительных семинаров для своих членов, чтобы узнать, как ИИ может повлиять на рабочие места, национальную безопасность и интеллектуальную собственность. До США, если соглашение будет достигнуто, в следующем году Европейский союз примет первый в мире закон об управлении ИИ, который, как ожидается, вступит в силу в 2026 году.

Преимущества, которые ИИ приносит обществу, неоспоримы, но все больше звучат предупреждения о потенциальных рисках этой новой технологии. В июне Генеральный секретарь ООН Антониу Гутерриш поддержал предложение нескольких руководителей ИИ о создании международного наблюдателя за ИИ, аналогичного Международному агентству по атомной энергии (МАГАТЭ).

Возвращаясь к Frontier Model Forum, президент Microsoft Брэд Смит сказал, что инициатива является важным шагом в объединении технологических компаний для продвижения ответственного использования ИИ на благо всего человечества. Аналогичным образом, вице-президент OpenAI по глобальным вопросам Анна Маканджу сказала, что передовые технологии ИИ могут принести обществу огромную пользу, и для этого требуются надзор и управление.

Источник