Claude újabb szenzációt keltett.

Az Anthropic új mesterséges intelligencia modelljét, a Claude Mythos-t túl veszélyesnek ítélték, mivel mindössze több mint 40 vállalat férhet hozzá a globális szoftverbiztonsági réseket javító programjaihoz.

Az új mesterséges intelligencia modell, az Anthropic képes bármilyen biztonsági rést megtalálni. Fotó: Bloomberg .

Az Anthropic nemrégiben bejelentette új mesterséges intelligencia modelljét, a Claude Mythos Preview-t, de nem tette közzé széles körben, mivel attól tartottak, hogy kritikus infrastruktúra megtámadására használhatják fel. Ehelyett a vállalat több mint 40 fő technológiai partnerének, köztük az Apple-nek, az Amazonnak, a Microsoftnak és a Google-nek biztosított hozzáférést a modellhez, hogy szoftverbiztonsági réseket találjanak és javítsanak.

Ez a Project Glasswing nevű szövetség olyan hardvergyártókat tömörít, mint a Cisco és a Broadcom, valamint a Linux Foundationt, amely a fontos nyílt forráskódú szoftverek nagy részét karbantartja. Az Anthropic vállalta, hogy akár 100 millió dollárral is hozzájárul Claude-i székhelyű hiteleihez ehhez a törekvéshez.

Új mesterséges intelligencia szupermodell

A Claude Mythos Preview különösen aggasztóvá teszi, hogy képes automatikusan észlelni a nulladik napi sebezhetőségeket – olyan szoftverhibákat, amelyekről még a fejlesztők sem tudnak. Korábban az ilyen típusú sebezhetőségeket jellemzően hónapokig tartó kutatás után fedezték fel vezető biztonsági szakértők. Az Anthropic legújabb mesterséges intelligencia modellje azonban ezt nagymértékben, automatikusan és folyamatosan képes megtenni.

Claude Mythos lenyűgözte a kiberbiztonsági közösséget. Fotó: Bloomberg .

Az Anthropic szerint Claude Mythos több ezer hibát fedezett fel népszerű operációs rendszerekben és böngészőkben. Az egyik ilyen sebezhetőség az OpenBSD-ben volt, amely 27 éve létezett, egy kifejezetten biztonsági okokból tervezett és számos routerbe integrált nyílt forráskódú operációs rendszerben. Egy másik sebezhetőség egy népszerű videoszoftverben volt, amelyet az automatikus vizsgálatok 5 milliószor nem észleltek.

„A Claude Mythos modell olyan sebezhetőségeket talált, amelyeket a biztonsági kutatók évtizedekig figyelmen kívül hagytak” – mondta Logan Graham, az Anthropic modell sebezhetőségi tesztelésért felelős csapatának vezetője.

Elia Zaitsev, a CrowdStrike technológiai igazgatója úgy véli, hogy ez a modell globális kiberbiztonsági kockázatot jelent.

„Ami korábban hónapokig tartott, az MI-nek köszönhetően most percek alatt megtörténik” – mondta Zajcev. Azt is figyelmeztette, hogy a versenytársak megpróbálják majd kihasználni a hasonló képességeket Claude Mythosnak köszönhetően.

Lehetséges kockázatok

Nikesh Arora, a Palo Alto Networks vezérigazgatója Claude Mythos-t kiszámíthatatlan fenyegetésként jellemezte.

„Képzeljük el, hogy ez olyan, mint egy ügynökraj, amely folyamatosan és aprólékosan katalogizálja a technológiai infrastruktúránk minden gyengeségét” – jegyezte meg Nikesh Arora.

Jared Kaplan, az Anthropic tudományos igazgatója kifejti, hogy Claude Mythos biztonsági képességei nem speciális képzés eredményei. Természetes következményei a modell kiváló programozási készségeinek és a hibák időbeli automatikus kijavítására való képességének. Azt jósolja, hogy más MI-modellek is hamarosan hasonló képességekkel fognak rendelkezni, ami új szintre emeli a hackerek és a biztonsági csapatok közötti versenyt.

Claude Mythos valószínűleg nem kerül széles körben forgalomba. Fotó: Bloomberg .

A biztonsági modell megtartásának döntésére már 2019-ben is volt precedens, amikor az OpenAI megtagadta a GPT-2 kiadását, mivel aggodalmak merültek fel azzal kapcsolatban, hogy az dezinformáció előállításának automatizálására használható. A GPT-2 projekt vezetői később elhagyták az OpenAI-t, és megalapították az Anthropicot.

Ez a bejelentés egy nappal azután érkezett, hogy az Anthropic bejelentette, hogy 2026-ra több mint háromszorosára, 9 milliárd dollárról több mint 30 milliárd dollárra tervezi a bevételnövekedést. E növekedés nagy része a Claude programozási eszköz iránti keresletből származik. Ez a kiemelkedő képesség teszi lehetővé a modell számára, hogy korábban soha nem látott módon találjon biztonsági réseket.

Az Anthropic egy igen ellentmondásos helyzetben van a jelenlegi mesterséges intelligencia világában. A vállalat egyszerre versenyez a bevételt generáló, hatékony rendszerek fejlesztéséért, és folyamatosan figyelmeztetnie kell az általa létrehozott technológia kockázataira.

Forrás: https://znews.vn/anthropic-lai-gay-chan-dong-post1641929.html