Клод викликав ще одну сенсацію.

Нову модель штучного інтелекту Anthropic, Claude Mythos, визнали занадто небезпечною, оскільки лише понад 40 компаній мають до неї доступ для виправлення глобальних вразливостей безпеки програмного забезпечення.

Нова модель штучного інтелекту Anthropic здатна знаходити будь-які вразливості безпеки. Фото: Bloomberg .

Нещодавно Anthropic анонсувала нову модель штучного інтелекту під назвою Claude Mythos Preview, але відмовилася від її широкого випуску через побоювання, що її можуть неналежним чином використати для атаки на критичну інфраструктуру. Натомість компанія надала доступ до моделі понад 40 основним технологічним партнерам, включаючи Apple, Amazon, Microsoft та Google, для пошуку та виправлення вразливостей безпеки програмного забезпечення.

Цей альянс під назвою Project Glasswing включає постачальників обладнання, таких як Cisco та Broadcom, а також Linux Foundation, організацію, яка підтримує значну частину важливого програмного забезпечення з відкритим кодом. Anthropic зобов'язалася внести до 100 мільйонів доларів у вигляді кредитів на базі Claude для цієї ініціативи.

Нова супермодель ШІ

Особливо вражає Claude Mythos Preview його здатність автоматично виявляти вразливості нульового дня — недоліки програмного забезпечення, про які навіть розробники не знають. Раніше такі типи вразливостей зазвичай виявлялися після місяців досліджень провідними експертами з безпеки. Однак остання модель штучного інтелекту Anthropic може робити це у великих масштабах, автоматично та безперервно.

Клод Мітос приголомшив спільноту кібербезпеки. Фото: Bloomberg .

За даними Anthropic, Клод Мітос виявив тисячі недоліків у популярних операційних системах та браузерах. Однією з них була вразливість, яка існувала протягом 27 років в OpenBSD, операційній системі з відкритим кодом, спеціально розробленій для забезпечення безпеки та інтегрованій у багато маршрутизаторів. Інша вразливість була в популярному відеопрограмному забезпеченні, яке автоматичне сканування не змогло виявити 5 мільйонів разів.

«Модель Клода Мітоса виявила вразливості, які дослідники безпеки ігнорували десятиліттями», — сказав Логан Грем, керівник команди тестування вразливостей моделі в Anthropic.

Елія Зайцев, головний технічний директор CrowdStrike, вважає, що ця модель становить глобальну кібербезпекову загрозу.

«Речі, які раніше займали місяці, тепер займають лише хвилини завдяки штучному інтелекту», – сказав Зайцев. Він також попередив, що конкуренти спробують використати подібні можливості завдяки Клоду Мітосу.

Потенційні ризики

Нікеш Арора, генеральний директор Palo Alto Networks, назвав Клода Мітоса непередбачуваною загрозою.

«Уявіть собі, що це рій агентів, які постійно та ретельно каталогізують кожну слабкість вашої технологічної інфраструктури», – зауважив Нікеш Арора.

Джаред Каплан, головний науковий директор Anthropic, пояснює, що можливості безпеки Клода Мітоса не є результатом спеціального навчання. Це природний наслідок чудових навичок програмування моделі та її здатності автоматично виправляти помилки з часом. Він прогнозує, що інші моделі штучного інтелекту незабаром матимуть подібні можливості, що виведе гонку між хакерами та командами безпеки на новий рівень.

Клод Мітос навряд чи вийде у широкий прокат. Фото: Bloomberg .

Рішення зберегти модель безпеки має прецедент з 2019 року, коли OpenAI відмовився випускати GPT-2 через побоювання, що його можна використовувати для автоматизації виробництва дезінформації. Ті, хто керував проєктом GPT-2, пізніше покинули OpenAI та заснували Anthropic.

Ця заява з'явилася через день після того, як Anthropic оголосила про прогнозоване річне зростання доходу більш ніж утричі у 2026 році, з 9 мільярдів доларів до понад 30 мільярдів доларів . Значна частина цього зростання зумовлена ​​попитом на Claude як інструмент програмування. Ця чудова здатність дозволяє моделі знаходити вразливості безпеки небаченими раніше способами.

Anthropic перебуває у дуже суперечливому становищі на сучасному ринку штучного інтелекту. Компанія одночасно змагається у розробці потужних систем для отримання доходу та постійно попереджає про ризики самої технології, яку вона створює.

Джерело: https://znews.vn/anthropic-lai-gay-chan-dong-post1641929.html