Письмо о поворотном моменте
23 ноября агентство Reuters со ссылкой на эксклюзивные источники сообщило, что за четыре дня до увольнения генерального директора Сэма Альтмана некоторые исследователи OpenAI направили совету директоров компании письмо с предупреждением о мощном открытии искусственного интеллекта (ИИ), которое может угрожать человечеству. Письмо никогда ранее не упоминалось, и упомянутый выше алгоритм ИИ был важным событием до того, как г-н Сэм Альтман, соучредитель OpenAI, был уволен 17 ноября. Он вернулся на эту должность 21 ноября (по американскому времени) после двух переговоров с OpenAI. По словам источников, письмо было одним из факторов в списке причин, приведших к решению об увольнении совета директоров OpenAI, хотя в официальном объявлении компания только сказала, что г-н Альтман «не был последовательным и прямым в общении с советом директоров».
Г-н Альтман ( справа ) и руководители технологических компаний обсудили вопросы на конференции АТЭС в Сан-Франциско (США) 16 ноября.
Один из давних руководителей OpenAI, Мира Мурати, упомянула проект под названием Q* сотрудникам 22 ноября и сказала, что совет компании получил письмо до увольнения Альтмана, по словам людей. Один из источников сказал, что OpenAI достигла прогресса в Q*, что может стать прорывом в поисках сверхинтеллекта, также известного как искусственный общий интеллект (AGI).
Хотя модель способна выполнять только математику на уровне начальной школы, решение таких задач позволяет исследователям с оптимизмом смотреть на будущий успех Q*. Исследователи рассматривают математику как предпосылку для разработки генеративного ИИ. Генеративный ИИ в настоящее время может писать и переводить языки, хотя ответы на одни и те же вопросы могут быть очень разными. Но освоение математики, где есть только один правильный ответ, подразумевает, что ИИ сможет рассуждать лучше, как люди. Исследователи полагают, что это можно применить к новым научным исследованиям.
Сэм Альтман возвращается на пост генерального директора OpenAI
Потенциальная опасность?
В письме совету директоров OpenAI исследователи описали потенциальную силу и опасности ИИ, по словам людей. Специалисты по информатике давно обсуждают опасности, которые представляют сверхразумные машины, например, могут ли они решить уничтожить человечество ради собственной выгоды. На этом фоне Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлечению инвестиций и вычислительных ресурсов, необходимых для приближения к ИИ. Помимо анонса множества новых инструментов на мероприятии в этом месяце, Альтман на прошлой неделе сказал мировым лидерам в Сан-Франциско, что, по его мнению, ИИ уже достижим. Днем позже он был уволен советом директоров OpenAI. OpenAI и Альтман не сразу ответили на просьбы прокомментировать письмо.
Обеспокоенные потенциальными рисками, которые несет ИИ, многие западные правительства и технологические компании договорились о новом режиме тестирования безопасности. Однако, по данным AFP, Генеральный секретарь ООН Антониу Гутерриш заявил, что мир все еще «играет в догонялки» в попытках регулировать ИИ, что может иметь долгосрочные негативные последствия для всего: от рабочих мест до культуры.
На OpenAI и Microsoft подали в суд из-за авторских прав
Группа авторов научно-популярной литературы подала иск против OpenAI и Microsoft, обвинив их в обучении инструмента ChatGPT копировать их работы без их согласия, сообщил The Hill 23 ноября. В иске, поданном в федеральный суд в Нью-Йорке, главный истец Джулиан Сэнктон заявил, что он и другие авторы не получили никакой компенсации за работы, скопированные ИИ, в то время как OpenAI и Microsoft достигли финансового успеха за счет коммерциализации своих работ, заработав миллиарды долларов дохода от продуктов ИИ. По данным Reuters, представитель OpenAI отказался комментировать иск, а представитель Microsoft не сразу ответил на запрос о комментарии.
Ссылка на источник
Комментарий (0)