AI-säkerhet: Ett tveeggat svärd

Artificiell intelligens (AI) omformar alla aspekter av livet, och cybersäkerhet är inget undantag. Den snabba utvecklingen av denna teknik innebär dock en stor paradox: AI är både det mest solida försvarsskölden och det farligaste attackvapnet. Vid evenemanget BSides Hanoi 2025 med temat "AI Hack You" samlades ledande experter för att "dissekera" detta tveeggade svärds natur och skissa en panoramabild av cyberkrigföring i den nya eran.

Enligt Vu Duy Hien, biträdande generalsekreterare och kanslichef för National Cyber Security Association, är AI för närvarande en av de tekniker som spelar en särskilt viktig roll, och stöder individer och företag inom många områden och hjälper till att bearbeta arbete snabbare och mer effektivt. Inom cybersäkerhetsområdet är AI dock ett tveeggat svärd.

AI - Smart 'livvakt'

Det går inte att förneka att AI gör stora framsteg inom cybersäkerhetsbranschen. ”På den positiva sidan hjälper AI oss att upptäcka attacker tidigt, analysera data och stärka nätverksförsvaret. Många smarta säkerhetsverktyg som skapats tack vare AI har avsevärt minskat svarstiden på hot”, bekräftade Vu Duy Hien.

Herr Vu Duy Hien - biträdande generalsekreterare och kanslichef, National Cyber Security Association - på workshopen.

Denna kraft demonstreras tydligt genom vad Huynh Ngoc Khanh Minh, medlem i det ideella nätverket Anti-Phishing, delar med sig av. Hon sa att tidigare, när anti-phishing-arbete huvudsakligen förlitade sig på manuella processer, var experter tvungna att verifiera varje misstänkt länk en efter en, vilket orsakade en enorm försening av de tiotusentals rapporterna per dag.

För att övervinna den begränsningen har Anti-Fraud-teamet utvecklat ett nytt AI-verktyg. ”Användarna behöver bara klistra in länken, så kontrollerar och visar AI automatiskt resultaten inom 30 sekunder till 1 minut med en noggrannhet på upp till 98 % ”, säger Khanh Minh. ” Tack vare det förkortas verifieringstiden dussintals gånger jämfört med tidigare, vilket hjälper människor att proaktivt upptäcka och förebygga risken för onlinebedrägerier effektivt och helt kostnadsfritt.”

Globalt sett har ledande cybersäkerhetsplattformar också djupt integrerat AI. Darktrace-systemet använder självlärande AI för att bygga ett "immunförsvar" för företag, vilket automatiskt upptäcker de minsta avvikelserna som kan vara tecken på en okänd attack. På liknande sätt använder CrowdStrike Falcon-plattformen maskininlärning och beteendeanalys för att förhindra sofistikerade attacker, istället för att enbart förlita sig på kända "signaturer" från skadlig kod.

Dessa verktyg visar hur AI hjälper cybersäkerhetsproffs att gå från reaktiva till proaktiva, och stoppa hot innan de kan orsaka skada.

AI - Ett vapen i skurkarnas händer

Den andra sidan av myntet är lika briljant. Det är AI:s överlägsna kapacitet som har gjort den till ett eftertraktat verktyg för cyberbrottslingar. Vu Duy Hien påpekade: ”Å andra sidan använder cyberbrottslingar också AI för att utveckla mer sofistikerade attackformer, som kan övervinna många lager av traditionellt försvar. Hastigheten, omfattningen och noggrannheten hos cyberattacker har därför ökat dramatiskt.”

Djupt personliga nätfiskeattacker: Med stora språkmodeller (LLM) kan hackare skapa en serie e-postmeddelanden och meddelanden med naturligt språk och kontext som är lämpliga för varje mål, vilket gör att även de mest försiktiga användarna faller för dem.

Deepfakes uppgång: Cyberbrottslingar kan förfalska en VD:s röst eller video för att begära brådskande pengaöverföringar. Ett känt fall involverade brottslingar som använde AI för att förfalska rösten hos ett brittiskt energiföretags VD för att framgångsrikt lura 243 000 dollar.

Polymorf skadlig kod: AI kan användas för att skapa skadlig kod som automatiskt kan ändra sin källkod efter varje infektion, vilket gör traditionell antivirusprogramvara ineffektiv.

Automatisering av attackprocessen: Hackare kan använda AI för att automatiskt skanna miljontals system efter sårbarheter, utföra distribuerade denial of service (DDoS)-attacker eller knäcka lösenord i halsbrytande hastigheter, vilket förstärker attackens omfattning mångfalt.

Den mänskliga faktorn och den oändliga kapplöpningen

Inför denna verklighet är experter överens om att cybersäkerhetskriget i AI-eran är en kapplöpning mellan "bra AI" och "dålig AI". Och i hjärtat av denna kapplöpning blir den mänskliga faktorn ännu viktigare.

Herr Truong Duc Luong - ordförande för VSEC - vid workshopen.

Truong Duc Luong, ordförande för Vietnam Cyber Security Joint Stock Company (VSEC), sa att han med 22 års erfarenhet insåg bristen på möjligheter till samarbete och delning av djupgående kunskap mellan det vietnamesiska cybersäkerhetsteamet och världen, medan det internationella säkerhetssamhället är mycket aktivt. Detta skapar ett akut behov av att bygga en stark gemenskap.

Som svar på denna oro sa Vu Duy Hien: ”AI är en oåterkallelig trend, så istället för att oroa sig behöver cybersäkerhetsgemenskapen samarbeta, dela erfarenheter och tillsammans bygga ett säkert försvarsekosystem som anpassar sig till den nya eran.”

Dessutom ligger utmaningen inte bara på den tekniska sidan. Enligt advokaten Nhi Pham står utredning och hantering, trots att Vietnam har juridiska dokument, fortfarande inför många utmaningar eftersom överträdelser ofta är gränsöverskridande, vilket gör det svårt att spåra och återkräva tillgångar. Enligt henne är det viktigt med ett nära samarbete och ömsesidig förståelse mellan de tekniska och juridiska teamen för att minimera riskerna.

I slutändan är nyckeln till seger att kontinuerligt förbättra sina förmågor. Hien betonade att förebyggande av cyberbrottslighet i AI-eran kräver att varje användare och varje företag ständigt uppdaterar tekniken, och i synnerhet behöver cybersäkerhetsexperter förbättra sina professionella förmågor och utveckla nya, proaktiva lösningar.

AI:s tveeggat svärd har inneburit en enorm utmaning men också en exempellös möjlighet för cybersäkerhetsbranschen. Cyberrymdens framtid beror på hur vi använder och kontrollerar detta kraftfulla verktyg. Konfrontationen mellan defensiv AI och offensiv AI kommer att bli en ändlös kapprustning, och segern kommer bara att tillhöra den sida som är bättre förberedd, samarbetar närmare och ständigt lär sig och förnyar sig.

Huy Quang

Källa: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html