Мир не готов к созданию искусственного интеллекта, столь же умного, как человеческий мозг.

По словам старшего научного сотрудника OpenAI, мир не готов к появлению общего искусственного интеллекта (AGI) или к тому моменту, когда искусственный интеллект станет таким же умным, как человеческий мозг.

Представляет ли искусственный интеллект риск?

Годами исследователи размышляли о появлении общего искусственного интеллекта (ОИИ), где искусственные системы смогут выполнять широкий спектр задач наравне с людьми. Многие рассматривают его появление как экзистенциальный риск, поскольку он может позволить компьютерам действовать способами, которые люди не в состоянии себе представить.

По словам г-на Майлза Бриндейджа, мир не готов к эпохе всеобщего искусственного интеллекта (ОВИ).

Теперь человек, которому поручено обеспечить готовность OpenAI, разработчика ChatGPT, к AGI, признаёт, что ни мир, ни сама компания не «готовы» к следующему шагу. Майлз Брандейдж был «старшим консультантом OpenAI по готовности к AGI», но на этой неделе объявил о своём уходе в связи с роспуском группы компанией.

«Ни OpenAI, ни какая-либо другая передовая лаборатория не готовы (к ИИ), как и весь мир. Если говорить точнее, я не думаю, что это спорное заявление среди руководства OpenAI, а скорее вопрос о том, насколько компания и весь мир готовы к этому в нужное время», — сказал Брандейдж, который шесть лет помогал разрабатывать инициативы компании в области безопасности ИИ.

Уход Брандейджа стал очередным в череде заметных уходов из команд безопасности OpenAI. Ян Лейке, известный исследователь, покинул компанию, заявив, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами». Соучредитель Илья Суцкевер также покинул компанию, чтобы запустить собственный стартап в сфере искусственного интеллекта, ориентированный на разработку безопасного искусственного интеллекта (ИИ).

Роспуск Брандейджем своей группы «AGI Readiness» произошел всего через несколько месяцев после того, как компания распустила свою группу «Superalignment», призванную снижать долгосрочные риски в сфере ИИ, что выявило противоречия между первоначальной миссией OpenAI и ее коммерческими амбициями.

Давление прибыли сбивает OpenAI с безопасного пути

Сообщается, что OpenAI сталкивается с необходимостью перехода из некоммерческой в ​​коммерческую организацию в течение двух лет, иначе рискует потерять финансирование в рамках недавнего раунда инвестиций в размере 6,6 млрд долларов. Этот переход к коммерциализации давно беспокоит Брэндеджа, который выражал опасения ещё с 2019 года, когда OpenAI впервые создала своё коммерческое подразделение.

Генеральный директор OpenAI Сэм Альтман испытывает «головную боль» из-за давления, которое испытывает компания в связи с необходимостью получения прибыли.

Объясняя свой уход, Брандейдж сослался на растущие ограничения его свободы исследований и публикаций в известной компании. Он подчеркнул необходимость независимого мнения в обсуждении политики в области ИИ, свободного от отраслевой предвзятости и конфликта интересов. Консультируя руководство OpenAI по вопросам внутренней подготовки, он считает, что теперь может оказывать большее влияние на глобальное управление ИИ извне.

Уходы также отражают более глубокий культурный раскол в OpenAI. Многие исследователи присоединились к команде, чтобы развивать исследования в области ИИ, и теперь оказываются в среде, всё больше ориентированной на продукт. Внутреннее распределение ресурсов стало горячей точкой: согласно отчётам, команде Лейке отказали в вычислительных мощностях для исследований безопасности перед её расформированием.

В последние месяцы OpenAI столкнулась с вопросами о своих планах по развитию искусственного интеллекта и о том, насколько серьёзно компания относится к безопасности. Несмотря на то, что ChatGPT была основана как некоммерческая организация, занимающаяся исследованиями в области создания безопасного искусственного интеллекта, её успех привлёк значительные инвестиции и усилил давление, побуждающее использовать новую технологию в коммерческих целях.

Источник: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm