Модель «сверхинтеллекта», лежащая в основе споров вокруг OpenAI.

Согласно источникам Tech.co , пока разворачивался скандал вокруг увольнения генерального директора Сэма Альтмана и его последующего возвращения в OpenAI, один из циркулирующих слухов касался письма, отправленного исследователями компании совету директоров, в котором выражалась обеспокоенность по поводу того, что разрабатываемая модель сверхинтеллекта на основе ИИ может представлять угрозу для человечества.

Проект Q*

Модель, известная внутри компании как Project Q* (произносится как «Кью-стар»), позиционируется как потенциально крупный прорыв в стремлении OpenAI к созданию общего искусственного интеллекта (AGI) — высокоавтономной ветви сверхинтеллекта, способной к кумулятивному обучению и превосходящей человека в большинстве задач.

По данным источников, близких к делу, Q* может стать крупным прорывом в области искусственного интеллекта, радикально улучшив возможности логического мышления ИИ и приблизив OpenAI к значительному прорыву в разработке общего искусственного интеллекта.

В отличие от современных моделей ИИ, которые сосредоточены на генерации ответов на основе предварительно изученной информации, искусственный общий интеллект (AGI) — это автономная система, способная применять «разум» к принятию решений, что позволяет ей решать проблемы на человеческом уровне.

Хотя искусственный общий интеллект (AGI) еще не полностью реализован, многие эксперты считают, что эта технология также будет обладать потенциалом для кумулятивного обучения — еще одной характеристики, позволяющей людям совершенствовать свои способности.

Некоторые источники утверждают, что Q* — проект OpenAI — смог продемонстрировать вышеупомянутые свойства при решении задач. Более того, благодаря огромной вычислительной мощности модели, Q* смог превзойти учеников начальной школы, продемонстрировав навыки рассуждения и когнитивные способности, значительно превосходящие возможности современных технологий искусственного интеллекта.

Неясно, как долго Q* находился в разработке и каковы могут быть его потенциальные области применения, но OpenAI проинформировала сотрудников и членов совета директоров о проекте до того, как разразился кадровый скандал.

Этические вопросы

Хотя генеральный директор OpenAI Сэм Альтман уверен, что технология искусственного общего интеллекта будет способствовать инновациям, некоторые исследователи поспешили указать на потенциальные опасности этого проекта.

В письме совету директоров исследователи предупредили о потенциальной опасности, которую этот мощный алгоритм представляет для человечества. Конкретные этические опасения по поводу ИИ, изложенные в письме, не были раскрыты, но предупреждений оказалось достаточно, чтобы оправдать решение совета директоров уволить Альтмана.

Между тем, первоначальной причиной увольнения Альтмана были названы «плохие коммуникативные навыки» генерального директора. Вскоре после этого он нашел новую должность в Microsoft. Этот шаг побудил 700 из 770 сотрудников OpenAI пригрозить поступить так же, если генеральный директор не будет восстановлен в должности.

В условиях, когда компания находилась на грани краха, совет директоров OpenAI был вынужден вновь назначить Альтмана на высший пост, что также привело к масштабной перестройке руководящей команды компании и выявило глубокие разногласия внутри ее руководства.

Теперь, когда Альтман вернулся на свою должность и проект Q*, скорее всего, снова получит зеленый свет, это порождает новые вопросы.

Насколько реалистичен проект Q*?

Хотя бурные времена в OpenAI привлекли внимание к концепции искусственного общего интеллекта, это не первый раз, когда Альтман упоминает эту технологию.

В сентябре прошлого года предприниматель из Силиконовой долины попал в неприятную ситуацию после того, как сравнил искусственный интеллект с «обычным человеком, которого можно нанять в качестве коллеги». Он повторил свои прошлогодние заявления о том, что этот ИИ может «делать все то же самое, что и удаленный коллега», включая обучение профессии врача и хорошего программиста.

Хотя сравнение искусственного общего интеллекта с интеллектом «среднестатистического человека» не является чем-то новым, использование Альтманом этой фразы было сочтено «отвратительным» специалистами по этике ИИ и профессором Кембриджского университета Генри Шевлином, поскольку опасения по поводу влияния ИИ на гарантии занятости растут.

Потенциальные прорывы в области искусственного общего интеллекта также бьют тревогу у других исследователей – технология развивается быстрее, чем люди могут в полной мере оценить ее влияние.

Компания OpenAI считает, что положительные результаты применения искусственного общего интеллекта (AGI) оправдывают попытки освоения этого рискованного «минного поля». Однако, поскольку компания продолжает двигаться в этом направлении, многие опасаются, что Альтман ставит коммерческий успех выше пользы для пользователей и общества.

Фуонг Ань (Источник: Tech.co, The Guardian)

Источник