AI-sikkerhet: Et tveegget sverd

Kunstig intelligens (KI) omformer alle aspekter av livet, og cybersikkerhet er intet unntak. Den raske utviklingen av denne teknologien byr imidlertid på et stort paradoks: KI er både det mest solide forsvarsskjoldet og det farligste angrepsvåpenet. På BSides Hanoi 2025-arrangementet med temaet «KI Hack You» kom ledende eksperter sammen for å «dissekere» dette tveeggede sverdets natur og skissere et panoramabilde av cyberkrigføring i den nye æraen.

Ifølge Vu Duy Hien, visegeneralsekretær og kontorsjef i National Cyber Security Association, er AI for tiden en av teknologiene som spiller en spesielt viktig rolle, og støtter enkeltpersoner og bedrifter på mange felt og bidrar til å behandle arbeid raskere og mer effektivt. Innen cybersikkerhet er imidlertid AI et tveegget sverd.

AI – Smart «livvakt»

Det er ingen tvil om at AI gjør store fremskritt i cybersikkerhetsbransjen. «På den positive siden hjelper AI oss med å oppdage angrep tidlig, analysere data og styrke nettverksforsvaret. Mange smarte sikkerhetsverktøy laget takket være AI har redusert responstiden på trusler betydelig», bekreftet Vu Duy Hien.

Herr Vu Duy Hien – assisterende generalsekretær og kontorsjef i National Cyber Security Association – på workshopen.

Denne kraften demonstreres tydelig gjennom delingen til fru Huynh Ngoc Khanh Minh, et medlem av det ideelle nettverket Anti-Phishing. Hun sa at tidligere, da anti-phishing-arbeid hovedsakelig var avhengig av manuelle prosesser, måtte eksperter bekrefte hver mistenkelige lenke én etter én, noe som forårsaket en enorm forsinkelse i de titusenvis av rapporter per dag.

For å overvinne denne begrensningen har antisvindelteamet utviklet et nytt AI-verktøy. «Brukerne trenger bare å lime inn lenken, så vil AI automatisk sjekke og vise resultatene i løpet av 30 sekunder til 1 minutt med en nøyaktighet på opptil 98 % », sa Khanh Minh. « Takket være dette er bekreftelsestiden forkortet dusinvis av ganger sammenlignet med før, noe som hjelper folk med å proaktivt oppdage og forhindre risikoen for nettsvindel effektivt og helt gratis.»

Globalt har ledende cybersikkerhetsplattformer også dypt integrert AI. Darktrace-systemet bruker selvlærende AI for å bygge et «immunsystem» for bedrifter, og oppdager automatisk de minste avvikene som kan være tegn på et ukjent angrep. På samme måte bruker CrowdStrike Falcon-plattformen maskinlæring og atferdsanalyse for å forhindre sofistikerte angrep, i stedet for å utelukkende stole på kjente «signaturer» fra skadelig programvare.

Disse verktøyene viser hvordan AI hjelper cybersikkerhetsfagfolk med å gå fra reaktive til proaktive, og stoppe trusler før de kan forårsake skade.

AI - Et våpen i hendene på de slemme gutta

Den andre siden av mynten er like briljant. Det er de overlegne egenskapene til AI som har gjort den til et ettertraktet verktøy for nettkriminelle. Vu Duy Hien påpekte: «På den annen side bruker nettkriminelle også AI til å utvikle mer sofistikerte angrepsformer, som er i stand til å overvinne mange lag av tradisjonelt forsvar. Hastigheten, omfanget og nøyaktigheten til nettangrep har derfor økt dramatisk.»

Dypt personlige phishing-angrep: Med store språkmodeller (LLM-er) kan hackere lage en serie e-poster og meldinger med naturlig språk og kontekst som passer for hvert mål, noe som kan føre til at selv de mest forsiktige brukerne faller for dem.

Fremveksten av deepfakes: Nettkriminelle kan forfalske en administrerende direktørs stemme eller video for å be om hastepenger. En kjent sak involverte kriminelle som brukte kunstig intelligens til å forfalske stemmen til en administrerende direktør i et britisk energiselskap for å lykkes med å svindle 243 000 dollar.

Polymorf skadelig programvare: AI kan brukes til å lage skadelig programvare som automatisk kan endre kildekoden etter hver infeksjon, noe som gjør tradisjonell antivirusprogramvare ineffektiv.

Automatisering av angrepsprosessen: Hackere kan bruke kunstig intelligens til å automatisk skanne millioner av systemer for sårbarheter, utføre distribuerte tjenestenektangrep (DDoS) eller knekke passord i halsbrekkende hastigheter, noe som forsterker omfanget av angrepet mange ganger.

Den menneskelige faktoren og det uendelige kappløpet

Stilt overfor denne realiteten er eksperter enige om at cybersikkerhetskrigen i AI-æraen er et kappløp mellom «god AI» og «dårlig AI». Og i kjernen av dette kappløpet blir den menneskelige faktoren enda viktigere.

Herr Truong Duc Luong – styreleder i VSEC – på workshopen.

Truong Duc Luong, styreleder i Vietnam Cyber Security Joint Stock Company (VSEC), sa at han med 22 års erfaring innså mangelen på muligheter for samarbeid og deling av dyptgående kunnskap mellom det vietnamesiske cybersikkerhetsteamet og verden, mens det internasjonale sikkerhetssamfunnet er svært aktivt. Dette skaper et presserende behov for å bygge et sterkt fellesskap.

Som svar på denne bekymringen sa Vu Duy Hien: «KI er en irreversibel trend, så i stedet for å bekymre seg, må cybersikkerhetsmiljøet samarbeide, dele erfaringer og sammen bygge et trygt forsvarsøkosystem som tilpasser seg den nye æraen.»

I tillegg er utfordringen ikke bare på den tekniske siden. Ifølge advokat Nhi Pham står etterforskning og håndtering fortsatt overfor mange utfordringer, selv om Vietnam har juridiske dokumenter, fordi brudd ofte krysser landegrenser, noe som gjør det vanskelig å spore og gjenvinne eiendeler. Ifølge henne er det viktig med et tett samarbeid og gjensidig forståelse mellom de tekniske og juridiske teamene for å minimere risiko.

Til syvende og sist er nøkkelen til seier å kontinuerlig forbedre sine evner. Hien understreket at forebygging av nettkriminalitet i AI-æraen krever at alle brukere og alle bedrifter kontinuerlig oppdaterer teknologien, og spesielt må nettsikkerhetseksperter forbedre sine faglige evner og utvikle nye, proaktive løsninger.

Det tveeggede sverdet AI har utgjort en enorm utfordring, men også en enestående mulighet for cybersikkerhetsbransjen. Cyberspacets fremtid avhenger av hvordan vi bruker og kontrollerer dette kraftige verktøyet. Konfrontasjonen mellom defensiv AI og offensiv AI vil bli et endeløst våpenkappløp, og seieren vil kun tilhøre den siden som er bedre forberedt, samarbeider tettere og stadig lærer og innoverer.

Huy Quang

Kilde: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html