Mange utfordringer for AI i den nye æraen.

Etter hvert som AI blir mer tilgjengelig, og flere enkeltpersoner og bedrifter bruker AI gjennom vanlige verktøy, kan hackere samtidig automatisere angrep, akselerere driftsprosesser og distribuere mer sofistikerte kampanjer for å oppnå sine ulovlige mål.

Kaspersky avslører typer AI-drevne cyberangrep.

Følgende er noen av angrepsmetodene som Kaspersky har observert: ChatGPT kan brukes til å utvikle skadelig programvare og automatisk distribuere angrep mot flere ofre; AI-programmer infiltrerer brukerdata på smarttelefoner, og gjennom analyse av sensitive data kan angripere fullstendig "stjele" meldinger, passord og bankkoder fra ofre; Swarm intelligence-algoritmer hjelper datanettverk med automatisk (bonet) å gjenopprette ondsinnede nettverk som har blitt eliminert av sikkerhetsløsninger.

Kasperskys forskning på bruk av kunstig intelligens for å knekke passord indikerer at de fleste passord krypteres ved hjelp av hashingalgoritmer som MD5 og SHA. Derfor kan en enkel operasjon transformere et passord til en linje med kryptert tekst, men å reversere hele prosessen er en betydelig utfordring.

Gjennom AI kan ondsinnede aktører utnytte uredelig innhold, inkludert tekst, bilder, lyd og video , til å iverksette ikke-tekniske angrep. Store språkmodeller som ChatGPT-4o utnyttes til å lage svært sofistikerte phishing-scenarier og -meldinger. Ved å overvinne språkbarrierer kan AI skrive en tilsynelatende autentisk e-post basert utelukkende på informasjon fra sosiale medier. Den kan til og med etterligne offerets skrivestil, noe som gjør svindelen enda vanskeligere å oppdage.

I mellomtiden har Deepfake-teknologi dukket opp som et «problem» innen cybersikkerhet, til tross for at den tidligere ble ansett som et produkt av vitenskapelig forskning. Å utgi seg for å være kjendiser for økonomisk vinning er den vanligste metoden; dessuten bruker svindlere Deepfake til å stjele kontoer og foreta imiterte anrop til ofrenes venner og slektninger for å presse penger.

I tillegg til å utnytte AI-teknologi til ulovlige aktiviteter, kan ondsinnede aktører også angripe AI-algoritmer. Dette inkluderer «prompt injection»-angrep, der ondsinnede kommandoer injiseres i store språkmodeller, selv i strid med tidligere begrensede regler; og fiendtlige angrep, der skjulte informasjonsfelt legges til bilder eller lyd for å påvirke bildeklassifiseringsmulighetene til maskinlæringssystemer.

AI er i økende grad integrert i alle aspekter av menneskelivet, fra Apple Intelligence og Google Gemini til Microsoft Copilot. Derfor bør det å håndtere AI-sårbarheter være en topprioritet. Kaspersky har brukt AI-teknologi for å beskytte sine kunder og partnere i mange år, kontinuerlig søkende etter sårbarheter i AI-systemer for å øke deres motstandskraft og aktivt forsket på cyberangrepsteknikker for å gi pålitelig beskyttelse mot AI-baserte angrep.

KIM THANH

Kilde: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html