Utländska hackare upptäckta med hjälp av AI för att automatisera cyberattacker för första gången

Hackare har använt AI-system för att planera, styra och utföra intrångsoperationer; vilket potentiellt kan utöka omfattningen och hastigheten på cyberattackkampanjer avsevärt.

Artificiell intelligens (AI)-företaget Anthropic meddelade att de har upptäckt och stoppat en cyberattackkampanj utförd av utländska hackare, där de registrerade den första användningen av AI för att koordinera attackaktiviteter på ett nästan automatiserat sätt.

Hackare har använt AI-system för att planera, styra och utföra intrång, en utveckling som forskare säger är "oroande" och hotar att avsevärt öka omfattningen och hastigheten på cyberattackkampanjer, enligt en rapport som publicerades denna vecka av Anthropic.

Anthropic, tillverkaren av den generativa AI-chattroboten Claude, sa att de upptäckte aktiviteten i september och sedan stoppade den och meddelade cirka 30 potentiella offer, inklusive anställda på teknikföretag, finansinstitut, kemiföretag och flera myndigheter . "Endast ett litet antal fall lyckades komprometteras", står det i rapporten.

Även om oron kring användningen av AI för att driva cyberoperationer inte är ny, är det oroande i vilken utsträckning AI kan automatisera vissa uppgifter.

"Även om vi förväntar oss att dessa förmågor kommer att fortsätta utvecklas, är det som är anmärkningsvärt för oss den hastighet med vilken de utvecklas i stor skala", står det i Anthropics rapport.

Forskare varnar för att AI-teknik kan bli ett vapen. AI-agenter – verktyg som automatiskt kan utföra åtgärder på datorer – kan öka risken för storskaliga cyberattacker om de hamnar i hackarnas händer.

Tidigare i år varnade Microsoft också för att amerikanska motståndare, tillsammans med cyberbrottslingar och hackertjänster, utnyttjar AI för att öka attackernas effektivitet, skapa sofistikerade nätfiskemejl eller simulera röster och bilder av högt uppsatta tjänstemän för att utföra störningar och infiltrera känsliga system.

(TTXVN/Vietnam+)

Källa: https://www.vietnamplus.vn/lan-dau-tien-phat-hien-tin-tac-nuoc-ngoai-su-dung-ai-tu-dong-hoa-tan-cong-mang-post1077119.vnp