Сэм Альтман покидает комитет по безопасности OpenAI, передавая бразды правления независимой группе

Согласно объявлению в официальном блоге OpenAI, Комитет по безопасности станет независимой надзорной группой при совете директоров. Председателем комитета станет профессор Университета Карнеги — Меллона Зико Колтер, а также другие члены комитета, включая генерального директора Quora Адама Д'Анджело, отставного генерала армии США Пола Накасоне и бывшего исполнительного вице-президента Sony Николь Селигман. Все эти члены в настоящее время являются членами совета директоров OpenAI.

После отставки Альтмана Комиссия завершила оценку безопасности новейшей модели искусственного интеллекта компании — o1. Команда продолжит получать инструктажи от команды по безопасности OpenAI и оставляет за собой право отложить релиз, если проблемы безопасности не будут решены.

По данным OpenAI, Комитет сохранит важную роль в обеспечении технического надзора за текущими и будущими моделями, а также в отслеживании результатов после выпуска моделей. Компания стремится создавать встроенные процессы безопасности с четкими критериями оценки, чтобы гарантировать безопасное развертывание каждой из ее моделей ИИ.

Решение Альтмана покинуть комитет было принято после того, как группа из пяти сенаторов США направила OpenAI письмо с просьбой разъяснить свою политику безопасности. За последний год почти половина сотрудников OpenAI, занимавшихся исследованием долгосрочных рисков ИИ, покинули компанию. Бывшие исследователи OpenAI критиковали Альтмана за то, что он не выступает за жесткое регулирование ИИ, а вместо этого поддерживает политику, способствующую достижению коммерческих целей компании.

Фото предоставлено: Джастин Салливан / Getty Images

Кроме того, OpenAI значительно увеличила свои расходы на лоббирование в Конгрессе США. Компания заложила в бюджет $800 000 на первые шесть месяцев 2024 года по сравнению с $260 000 на весь 2023 год. Альтман также входит в состав Совета по безопасности и защите искусственного интеллекта Министерства внутренней безопасности, где он участвует в разработке рекомендаций, связанных с ИИ для всей критической инфраструктуры страны.

Хотя Альтман покинул Комитет по безопасности и конфиденциальности, похоже, мало что указывает на то, что комитет примет решения, которые могут серьезно помешать коммерческому развитию OpenAI. В мае OpenAI заявила, что будет стремиться рассматривать «обоснованную критику» своей работы через этот комитет, хотя «обоснованная критика» во многом зависит от точки зрения рецензента.

В редакционной статье журнала The Economist в мае два бывших члена совета директоров OpenAI, Хелен Тонер и Таша Макколи, выразили обеспокоенность относительно способности компании управлять собой. Они утверждают, что в настоящее время OpenAI не в состоянии нести ответственность под давлением прибыли.

Прибыль OpenAI становится все более важным фактором. Компания находится в процессе привлечения 6,5 млрд долларов в рамках нового раунда финансирования, оценивая OpenAI более чем в 150 млрд долларов. Чтобы привлечь инвесторов, OpenAI может рассмотреть возможность отказа от своей гибридной некоммерческой структуры, которая призвана ограничивать доходы инвесторов в пользу своей цели — разработки ИИ для общего блага человечества.

Хунг Нгуен (по данным TechCrunch)

Источник: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html