Может ли проект «супер ИИ», угрожающий человечеству, способствовать увольнению генерального директора OpenAI Альтмана?

В сообщении агентства Reuters от 23 ноября со ссылкой на два источника сообщается, что о письме ранее не упоминалось и что алгоритм ИИ был значимым событием до увольнения Сэма Альтмана, соучредителя и генерального директора OpenAI, 17 ноября. По словам этих источников, письмо было одним из факторов в списке причин, приведших к решению уволить совет директоров OpenAI.

Исследователи, написавшие и отправившие письмо, не сразу отреагировали на просьбу прокомментировать ситуацию.

Альтман триумфально вернулся поздно вечером 21 ноября после того, как более 700 сотрудников OpenAI пригрозили уйти и присоединиться к Microsoft вместе с уволенным генеральным директором. Это положило конец почти недельному хаосу, вызванному серией неожиданных событий в OpenAI, одной из ведущих мировых исследовательских компаний в области искусственного интеллекта и владеющей популярным приложением ChatGPT.

OpenAI sa thải CEO sau bức thư cảnh báo mối nguy từ thuật toán AI mới? - Ảnh 1. — Г-н Альтман на мероприятии АТЭС в США 16 ноября.

По словам одного из источников, один из старших менеджеров OpenAI Мира Мурати 22 ноября рассказала сотрудникам о проекте под названием Q* (произносится как «Q Star») и сообщила, что совету директоров компании было отправлено письмо еще до глобальной технологической волны в прошлые выходные.

После того, как эта история стала достоянием общественности, представитель OpenAI заявил, что г-жа Мурати сообщила сотрудникам то, о чем собираются сообщить СМИ, но она не стала комментировать точность информации.

Сэм Альтман возвращается на пост генерального директора OpenAI

Один из источников сообщил, что OpenAI добилась прогресса в проекте Q*. Некоторые сотрудники компании считают, что этот проект может стать прорывом в стремлении OpenAI к созданию сверхинтеллекта, также известного как искусственный интеллект общего назначения (ИИО). Компания определяет ИИО как систему искусственного интеллекта, превосходящую человека.

По словам источника, благодаря своим огромным вычислительным ресурсам новая модель способна решать некоторые задачи. Хотя модель способна выполнять математические вычисления только на уровне начальной школы, по словам источника, решение таких задач позволяет исследователям с большим оптимизмом смотреть в будущее Q*.

Исследователи рассматривают математику как передовой рубеж в развитии генеративного ИИ. В настоящее время генеративный ИИ может писать и переводить между языками, хотя ответы на одни и те же вопросы могут быть очень разными. Но овладение математикой, где существует только один правильный ответ, подразумевает, что ИИ сможет рассуждать лучше, чем человеческий интеллект. Исследователи ИИ считают, что это может быть применено в новых научных исследованиях.

В отличие от компьютера, способного выполнять лишь ограниченное количество вычислений, ИИ может обобщать, обучаться и понимать задачи. В письме совету директоров OpenAI исследователи, по словам источников, подчеркнули мощь и потенциальную опасность ИИ. Специалисты по информатике давно обсуждают опасности, исходящие от сверхразумных машин, например, могут ли они решить уничтожить человечество ради собственной выгоды.

В этом контексте г-н Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлечению инвестиций (а также вычислительных ресурсов), необходимых от Microsoft для приближения к обобщенному сверхинтеллекту (ОИИ).

Помимо анонса ряда новых инструментов на мероприятии в этом месяце, г-н Альтман заявил мировым лидерам на прошлой неделе в Сан-Франциско, что, по его мнению, ИИОН достижим.

Днем позже совет директоров OpenAI уволил г-на Альтмана.

Ссылка на источник