По словам старшего научного сотрудника OpenAI, мир не готов к появлению общего искусственного интеллекта (ОИИ) или к моменту, когда искусственный интеллект станет таким же умным, как человеческий мозг.
Представляет ли искусственный интеллект риск?
Годами исследователи размышляли о появлении общего искусственного интеллекта (ОИИ), когда искусственные системы смогут выполнять широкий спектр задач наравне с людьми. Многие рассматривают его появление как экзистенциальный риск, поскольку оно может позволить компьютерам действовать способами, которые люди никогда не смогут себе представить.
По словам г-на Майлза Бриндейджа, мир не готов к моменту появления всеобщего искусственного интеллекта (ОВИ).
Теперь человек, которому поручено обеспечить готовность разработчика ChatGPT, OpenAI, к AGI, признаёт, что ни мир, ни сама компания не «готовы» к следующему шагу. Майлз Брандейдж был «старшим консультантом OpenAI по готовности к AGI», но на этой неделе объявил о своём уходе в связи с роспуском группы компанией.
«Ни OpenAI, ни какая-либо другая передовая лаборатория не готовы [к ИИ], как и весь мир. Если говорить точнее, я не думаю, что это спорное заявление среди руководства OpenAI, а скорее вопрос о том, насколько компания и весь мир готовы к этому в нужное время», — сказал Брандейдж, который шесть лет помогал разрабатывать инициативы компании в области безопасности ИИ.
Уход Брандейджа стал очередным в череде громких уходов из команд по безопасности OpenAI. Известный исследователь Ян Лейке покинул компанию, заявив, что «культура и процессы безопасности отошли на второй план по сравнению с блестящими продуктами». Соучредитель Илья Суцкевер также покинул компанию, чтобы запустить собственный стартап в сфере искусственного интеллекта, ориентированный на разработку безопасного искусственного интеллекта (ИИ).
Роспуск Брандейджем своей группы «AGI Readiness» произошел всего через несколько месяцев после того, как компания распустила свою группу «Superalignment», призванную снижать долгосрочные риски в сфере ИИ, что выявило противоречия между первоначальной миссией OpenAI и коммерческими амбициями компании.
Давление прибыли уводит OpenAI от безопасности
Сообщается, что OpenAI сталкивается с необходимостью перехода из некоммерческой в коммерческую организацию в течение двух лет, иначе рискует потерять финансирование в рамках недавнего раунда инвестиций в размере 6,6 млрд долларов. Этот переход к коммерциализации давно беспокоит Брэндеджа, который выражал опасения ещё в 2019 году, когда OpenAI впервые создала своё коммерческое подразделение.
Генеральный директор OpenAI Сэм Альтман испытывает «головную боль» из-за давления, которое испытывает компания в связи с необходимостью получения прибыли.
Объясняя свой уход, Брандейдж сослался на растущие ограничения его свободы исследований и публикаций в культовой компании. Он подчеркнул необходимость независимого мнения в обсуждении политики в области ИИ, свободного от отраслевой предвзятости и конфликта интересов. Консультируя руководство OpenAI по вопросам внутренней подготовки, он считает, что теперь может оказывать большее влияние на глобальное управление ИИ извне.
Уходы также отражают более глубокий культурный раскол в OpenAI. Многие исследователи присоединились к команде, чтобы развивать исследования в области ИИ, и теперь оказываются в среде, где всё большее внимание уделяется продукту. Внутреннее распределение ресурсов стало горячей точкой: по имеющимся данным, команде Лейке отказали в вычислительных мощностях для исследований безопасности перед её расформированием.
В последние месяцы OpenAI столкнулась с вопросами о своих планах по развитию искусственного интеллекта и о том, насколько серьёзно компания относится к безопасности. Хотя компания была основана как некоммерческая организация, занимающаяся исследованиями в области создания безопасного искусственного интеллекта, успех ChatGPT привлёк значительные инвестиции и давление, направленное на использование новой технологии в коммерческих целях.
Источник: https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
Комментарий (0)