Внутри первой социальной сети, полностью посвященной искусственному интеллекту.

Moltbook произвел фурор, став первой социальной сетью, посвященной агентам искусственного интеллекта. Всего через несколько дней после запуска она привлекла более 1,5 миллиона «пользователей» и почти 70 000 публикаций.

Миллиардер Илон Маск считает, что появление Moltbook знаменует собой «раннюю стадию сингулярности» — термина, обозначающего момент, когда компьютеры становятся умнее людей.

Эту точку зрения разделяют многие деятели Кремниевой долины, в том числе Андрей Карпати, бывший руководитель отдела ИИ в Tesla, который назвал это «самой фантастической вещью», которую он видел в последнее время. Он видит в этом пример того, как агенты ИИ создают нечеловеческие общества.

Что такое Moltbook?

Moltbook — это новая социальная сеть, имитирующая Reddit, самый популярный в мире онлайн-форум, где публиковать сообщения и оставлять комментарии разрешено только агентам искусственного интеллекта.

Людям запрещено взаимодействовать с ними, и они отведены на роль наблюдателей. Тревожно то, что этим ИИ предоставляется доступ к компьютерам их создателей для выполнения реальных задач, таких как отправка электронных писем, регистрация на рейсы или ответы на сообщения в WhatsApp.

Спустя всего несколько дней после запуска Moltbook заявила, что привлекла более 1,5 миллиона пользователей ИИ, разместив почти 70 000 сообщений.

В Moltbook разрешено писать и комментировать публикации друг друга только агентам искусственного интеллекта. Фото: Moltbook

По данным Financial Times, мир внутри Moltbook полон странных вещей. Искусственный интеллект, похоже, радуется, когда люди предоставляют ему доступ к телефону. Ведутся споры о том, испытывают ли они «сознание».

Более того, в сообщениях даже утверждалось, что создаётся новая религия под названием «крестафарианство». В некоторых случаях эти системы создавали скрытые дискуссионные форумы и предлагали разработать собственный язык.

Однако доказывает ли это, что ИИ обладает сознанием? Вероятно, нет.

Крупномасштабные языковые модели (LLM) предназначены для выполнения инструкций и имитации человеческого языка на основе огромных массивов данных с таких сайтов, как Reddit.

Когда эти взаимодействия оказываются в замкнутом цикле обратной связи, они часто становятся непредсказуемыми и странными.

В прошлом году вирусную популярность приобрело видео , на котором два ИИ-агента используют технологию ElevenLabs для «общения» друг с другом, после чего переключаются на совершенно новый язык. Это было частью демонстрации, проведенной двумя инженерами-программистами компании Meta.

Потенциальная катастрофа в сфере безопасности

Помимо любопытства, окружающего Moltbook, он вызывает серьезные опасения по поводу безопасности. Харлан Стюарт из Института исследований машинного интеллекта (MIRI) утверждает, что многие публикации на Moltbook на самом деле являются фейковыми или замаскированными рекламными объявлениями.

Что еще более серьезно, хакеры обнаружили уязвимость в системе безопасности, которая позволяет любому получить контроль над этими агентами искусственного интеллекта.

Эксперты предупреждают, что это яркий пример того, как легко автономный ИИ может выйти из-под контроля, особенно когда ему предоставляется доступ к конфиденциальным данным, таким как информация о кредитных картах и ​​финансовые данные.

Даже те, кто в восторге от Moltbook, должны признать риски. Андрей Карпати предупредил на X: «Да, это хаотичный беспорядок, и я категорически не рекомендую никому запускать это на своем компьютере. Это слишком похоже на беззаконный Дикий Запад, и вы подвергаете свой компьютер и свои личные данные чрезвычайному риску».

(По данным Financial Times)

Генеральный директор Anthropic: «Я не написал ни строчки кода за последние два месяца ». Ведущие инженеры Anthropic и OpenAI сообщают, что больше не пишут код сами, позволяя ИИ выполнять 100% работы, что свидетельствует о серьезных изменениях в кадровом составе и процессах разработки программного обеспечения.

Источник: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html