Generální ředitel společnosti Anthropic varuje před kybernetickou katastrofou, světu zbývá už jen 12 měsíců.

Generální ředitel společnosti Anthropic varuje, že svět má pouze 6–12 měsíců na to, aby opravil desítky tisíc softwarových zranitelností objevených modelem umělé inteligence Mythos, než ho čínská umělá inteligence dožene.

Generální ředitel společnosti Anthropic Dario Amodei uvedl, že Mythos – nejnovější model umělé inteligence společnosti – detekoval desítky tisíc zranitelností v kritickém softwaru. Zejména varoval, že vlády , technologické společnosti a banky mají na opravu těchto problémů pouze 6–12 měsíců, než je čínská umělá inteligence dožene.

Nejnovější model společnosti Anthropic detekoval desítky tisíc zranitelností v kritickém softwaru. Foto: Bloomberg

Tyto komentáře zazněly na akci Anthropic 5. května, kde se Amodei objevil po boku generálního ředitele JPMorgan Chase Jamieho Dimona a oznámil nového asistenta s umělou inteligencí, který je určen k automatizaci finančních úkolů.

„Nebezpečí spočívá v enormním nárůstu počtu zranitelností, narušení bezpečnosti a finančních ztrát způsobených ransomwarem školám, nemocnicím, nemluvě o bankách,“ zdůraznil Amodei.

Společnost Anthropic má omezený přístup k Mythosu na několik vybraných partnerských společností kvůli obavám z toho, co by mohli zločinci nebo nepřátelské národy zneužít. Zatímco předchozí aktualizace modelů společnosti byly na trhu dobře přijaty, Mythos je produkt, který vyvolal největší obavy jak u podniků, tak u tvůrců politik.

Rozsah zneužitelných zranitelností s každou generací Claude explodoval. Dřívější model Anthropic nalezl v prohlížeči Firefox přibližně 20 zranitelností. Mythos však objevil téměř 300 chyb a celkový počet zranitelností v celém softwaru nyní dosahuje desítek tisíc.

Většina zranitelností objevených společností Mythos zůstává nezveřejněna, protože nebyly opraveny a pokud by byly identifikovány, „zlomyslní aktéři by je zneužili“.

Navzdory tomu Amodei i Dimon vyjádřili optimismus – ale s podmínkami.

„Toto je nebezpečný okamžik, ale pokud zareagujeme správně, můžeme se posunout k lepšímu světu na druhé straně,“ řekl Amodei.

Pan Dimon také poznamenal, že ačkoli jsou obavy ohledně kyberprostoru zcela oprávněné, kybernetická bezpečnostní rizika vytvořená umělou inteligencí jsou pouze „přechodnou fází“.

Pokud jde o regulaci, Amodei tvrdí, že dohled nad umělou inteligencí by měl být podobný jako v automobilovém průmyslu, a měl by nalézt rovnováhu mezi bezpečností spotřebitelů a umožněním odvětví konkurenceschopnosti.

„Nemůžete jen tak založit automobilku, aniž byste si položili otázku: ‚Má toto auto brzdy?‘ Musíme najít proces, který umožní tomuto odvětví fungovat rychle a spravedlivě, ale zároveň klade bariéry proti nejzávažnějším problémům,“ argumentoval.

(Podle CNBC)

Díky umělé inteligenci zkrátila banka dobu zpracování úvěrového hodnocení z 5 dnů na půl dne . Umělá inteligence pomohla vietnamské bance zkrátit dobu potřebnou ke zpracování žádostí o úvěr z 5 dnů na přibližně půl dne, ale aplikace této technologie představuje značné výzvy, pokud jde o bezpečnost dat a řízení lidských zdrojů.

Zdroj: https://vietnamnet.vn/ceo-anthropic-canh-bao-tham-hoa-an-ninh-mang-the-gioi-chi-con-12-thang-2513150.html