Сэм Альтман покидает Комитет по безопасности OpenAI, передав его независимой группе

Согласно объявлению в официальном блоге OpenAI, Комитет по безопасности и защите станет независимой надзорной группой при совете директоров. Председателем комитета станет профессор Университета Карнеги-Меллона Зико Колтер, а также другие члены комитета, такие как генеральный директор Quora Адам Д’Анджело, отставной генерал армии США Пол Накасоне и бывший исполнительный вице-президент Sony Николь Селигман. Все эти члены в настоящее время входят в совет директоров OpenAI.

После отставки Альтмана комитет завершил проверку безопасности новейшей модели искусственного интеллекта компании, o1. Группа продолжит получать информацию от команды OpenAI по безопасности и защите и оставляет за собой право отложить релиз, если проблемы безопасности не будут устранены.

По данным OpenAI, Комитет сохранит важную роль в обеспечении технического надзора за текущими и будущими моделями, а также в мониторинге после их выпуска. Компания стремится создать встроенные процессы безопасности с чёткими критериями оценки, чтобы гарантировать безопасный выпуск всех своих моделей ИИ.

Решение Альтмана покинуть комитет было принято после того, как группа из пяти сенаторов США направила OpenAI письмо с просьбой разъяснить политику безопасности. Почти половина сотрудников OpenAI, занимавшихся изучением долгосрочных рисков ИИ, покинули компанию в последние годы. Бывшие исследователи OpenAI критиковали Альтмана за то, что он не выступал за строгое регулирование ИИ, а вместо этого поддерживал политику, способствующую достижению коммерческих целей компании.

Автор изображения: Джастин Салливан / Getty Images

Кроме того, OpenAI значительно увеличила расходы на лоббирование в Конгрессе США. Компания заложила в бюджет 800 000 долларов на первые шесть месяцев 2024 года по сравнению с 260 000 долларов на весь 2023 год. Альтман также вошел в состав Совета по безопасности и защите искусственного интеллекта Министерства внутренней безопасности США, где он участвовал в разработке рекомендаций, связанных с использованием ИИ в критически важной инфраструктуре страны.

Несмотря на то, что Альтман покинул Комитет по безопасности и конфиденциальности, похоже, мало что указывает на то, что комитет примет решения, которые могут серьёзно помешать коммерческому развитию OpenAI. В мае OpenAI заявила, что будет стремиться рассматривать «обоснованную критику» своей работы через комитет, хотя «обоснованная критика» во многом субъективна.

В редакционной статье в журнале The Economist в мае два бывших члена совета директоров OpenAI, Хелен Тонер и Таша Макколи, выразили обеспокоенность относительно способности компании к самоуправлению, утверждая, что в настоящее время OpenAI неспособна нести ответственность под давлением прибыли.

Прибыль становится всё более важным фактором развития OpenAI. Компания находится в процессе привлечения 6,5 млрд долларов в рамках нового раунда финансирования, что позволит оценить её стоимость более чем в 150 млрд долларов. Чтобы привлечь инвесторов, OpenAI может рассмотреть возможность отказа от своей гибридной некоммерческой структуры, которая призвана ограничивать доход инвесторов ради достижения цели — разработки ИИ на благо всего человечества.

Хунг Нгуен (по данным TechCrunch)

Источник: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html