Många utmaningar med AI i den nya eran

[annons_1]

I takt med att AI blir mer tillgängligt, med fler och fler individer och företag som använder AI genom vanliga verktyg ... kan hackare också automatisera attacker, påskynda verksamheten och implementera mer komplexa kampanjer för att uppnå sina olagliga mål.

Kaspersky avslöjar typer av cyberattacker med hjälp av AI

Här är de typer av attacker som Kaspersky har observerat: ChatGPT kan användas för att utveckla skadlig kod och automatiskt distribuera attacker till flera offer; AI-program infiltrerar användardata på smartphones och kan, genom att analysera känslig data, helt "läsa" meddelanden, lösenord och bankkoder från offren; Swarm intelligence-algoritmer hjälper automatiserade datornätverk (bonets) att återställa skadliga nätverk som har eliminerats av säkerhetslösningar.

Kasperskys forskning om hur man använder AI för att knäcka lösenord visar att de flesta lösenord krypteras med hashalgoritmer som MD5 och SHA. En enkel operation kan förvandla ett lösenord till en ström av chiffertext, men att vända processen är en stor utmaning.

Genom AI kan ondskefulla aktörer utnyttja bedrägligt innehåll, inklusive text, bilder, ljud och video , för att utföra social engineering-attacker. Stora språkmodeller som ChatGPT-4o används för att skapa mycket sofistikerade nätfiskeskript och meddelanden. Genom att övervinna språkbarriärer kan AI skriva ett genuint e-postmeddelande, baserat enbart på information på sociala nätverk. AI kan till och med härma offrets skrivstil. Detta gör nätfiskebeteende ännu svårare att upptäcka.

Samtidigt existerar Deepfake som ett "problem" inom cybersäkerhet, även om det tidigare ansågs vara en produkt av vetenskaplig forskning. Att utge sig för att vara kändisar för ekonomisk vinning är den vanligaste metoden, därefter använder bedragare även Deepfake för att stjäla konton, ringa falska samtal till vänner och släktingar till offer för att lägga beslag på egendom.

Förutom att utnyttja AI-teknik för olagliga aktiviteter kan skurkar även attackera AI-algoritmer. Till exempel "Prompt Injection"-attacker genom att mata in skadliga kommandon i stora språkmodeller, till och med genom att gå emot tidigare begränsade regler; kontradiktoriska attacker genom att lägga till dolda informationsfält i bilder eller ljud, för att påverka maskininlärningssystemets bildklassificeringsförmåga.

AI integreras gradvis i alla aspekter av mänskligt liv, från Apple Intelligence, Google Gemini till Microsoft Copilot. Därför bör åtgärda AI-sårbarheter vara högsta prioritet. Kaspersky har använt AI-teknik för att skydda kunder och partners i många år, kontinuerligt sökt efter sårbarheter i AI-system, ökat systemets motståndskraft och aktivt forskat på cyberattacktekniker för att ge tillförlitligt skydd mot AI-attacker.

Kim Thanh

[annons_2]
Källa: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html