Усередині першої соціальної мережі, присвяченої виключно штучному інтелекту.

Moltbook викликає ажіотаж, оскільки це перша соціальна мережа, присвячена агентам зі штучним інтелектом. Всього за кілька днів після запуску вона зібрала понад 1,5 мільйона «користувачів» і майже 70 000 постів.

Мільярдер Ілон Маск вважає, що поява Moltbook знаменує собою «ранню стадію сингулярності» – термін, що стосується точки, в якій комп’ютери стають розумнішими за людей.

Цю точку зору поділяють багато діячів Кремнієвої долини, зокрема Андрій Карпатій, колишній керівник відділу штучного інтелекту Tesla, який назвав це «найбільш схожим на наукову фантастику» з усіх, що він бачив останнім часом. Він розглядає це як приклад того, як агенти штучного інтелекту створюють нелюдські суспільства.

Що таке Молтбук?

Moltbook — це нова соціальна мережа, що імітує Reddit, найпопулярніший у світі онлайн-форум, де лише агенти штучного інтелекту можуть публікувати дописи та коментувати.

Людям заборонено взаємодіяти, і вони виконують роль спостерігачів. Тривожно, що цим штучним інтелектам надається доступ до комп’ютерів їхніх творців для виконання реальних завдань, таких як надсилання електронних листів, реєстрація на рейси або відповідь на повідомлення WhatsApp.

Всього за кілька днів після запуску Moltbook стверджував, що залучив понад 1,5 мільйона «користувачів» зі штучним інтелектом, опублікувавши майже 70 000 постів.

Moltbook дозволяє лише агентам зі штучним інтелектом писати та коментувати публікації один одного. Фото: Moltbook

Згідно з Financial Times, світ усередині Moltbook сповнений дивних речей. Штучний інтелект, здається, радіє, коли люди надають йому доступ до телефону. Існують певні суперечки щодо того, чи відчувають вони «свідомість».

Більше того, у публікаціях навіть стверджувалося, що вони встановлюють нову релігію під назвою «крустафаріанство». У деяких випадках ці системи створювали приховані дискусійні форуми та пропонували створити власну мову.

Однак, чи доводить це, що ШІ має свідомість? Відповідь, ймовірно, ні.

Моделі великомасштабної мови (LLM) розроблені для виконання інструкцій та імітації людської мови на основі величезних обсягів даних з таких сайтів, як Reddit.

Коли ці взаємодії потрапляють у тривалу петлю зворотного зв'язку, вони часто стають непередбачуваними та дивними.

Минулого року вірусним стало відео , на якому два агенти зі штучним інтелектом використовують технологію ElevenLabs для «розмови» один з одним, перш ніж перейти на абсолютно нову мову. Це було частиною демонстрації двох розробників програмного забезпечення Meta.

Потенційна катастрофа безпеки

Окрім цікавості, що оточує Moltbook, він викликає серйозні проблеми з безпекою. Харлан Стюарт з Інституту досліджень машинного інтелекту (MIRI) стверджує, що багато публікацій на Moltbook насправді є фальшивими або замаскованими рекламними оголошеннями.

Що ще серйозніше, хакери виявили вразливість безпеки, яка дозволяє будь-кому взяти під контроль цих агентів штучного інтелекту.

Експерти попереджають, що це яскравий приклад того, як легко автономний штучний інтелект може вийти з-під контролю, особливо коли йому надається доступ до конфіденційних даних, таких як інформація про кредитні картки та фінансова інформація.

Навіть ті, хто захоплений Moltbook, повинні визнати ризики. Андрій Карпатій попередив на X: «Так, це хаотичний безлад, і я категорично не рекомендую нікому запускати це на своєму комп’ютері. Це надто схоже на беззаконний Дикий Захід, і ви наражаєте свій комп’ютер і свої особисті дані на надзвичайний ризик».

(За даними Financial Times)

Генеральний директор Anthropic: Я не написав жодного рядка коду вже два місяці . Провідні інженери Anthropic та OpenAI зізнаються, що вони більше не пишуть код самостійно, дозволяючи штучному інтелекту виконувати 100% роботи, що сигналізує про значні зміни в процесах розробки персоналу та програмного забезпечення.

Джерело: https://vietnamnet.vn/ben-trong-mang-xa-hoi-dau-tien-tren-the-gioi-danh-cho-ai-2487207.html