Mange utfordringer med AI i den nye æraen

Etter hvert som AI blir mer tilgjengelig, med flere og flere enkeltpersoner og bedrifter som bruker AI gjennom vanlige verktøy ... kan hackere også automatisere angrep, fremskynde driften og distribuere mer komplekse kampanjer for å oppnå sine ulovlige mål.

Kaspersky avslører typer cyberangrep ved bruk av AI

Her er angrepstypene Kaspersky har observert: ChatGPT kan brukes til å utvikle skadelig programvare og automatisk distribuere angrep mot flere ofre; AI-programmer infiltrerer brukerdata på smarttelefoner og kan, gjennom prosessen med å analysere sensitive data, fullstendig "lese" meldinger, passord og bankkoder til ofrene; Swarm intelligence-algoritmer hjelper automatiserte datanettverk (bonets) med å gjenopprette ondsinnede nettverk som har blitt eliminert av sikkerhetsløsninger.

Kasperskys forskning på bruk av kunstig intelligens for å knekke passord viser at de fleste passord krypteres ved hjelp av hashingalgoritmer som MD5 og SHA. En enkel operasjon kan gjøre et passord om til en strøm av kryptert tekst, men å reversere prosessen er en stor utfordring.

Gjennom AI kan ondsinnede aktører utnytte uredelig innhold, inkludert tekst, bilder, lyd og video , for å iverksette sosial manipulering. Store språkmodeller som ChatGPT-4o brukes til å lage svært sofistikerte phishing-skript og -meldinger. Ved å overvinne språkbarrierer kan AI skrive en ekte e-post, basert kun på informasjon på sosiale nettverk. AI kan til og med etterligne offerets skrivestil. Dette gjør phishing-atferd enda vanskeligere å oppdage.

Samtidig eksisterer Deepfake som et «problem» innen cybersikkerhet, selv om det tidligere ble ansett som et produkt av vitenskapelig forskning. Å utgi seg for å være kjendiser for økonomisk vinning er den vanligste metoden, og svindlere bruker også Deepfake til å stjele kontoer, foreta falske anrop til venner og slektninger av ofre for å tilegne seg eiendom.

I tillegg til å utnytte AI-teknologi til ulovlige aktiviteter, kan skurker også angripe AI-algoritmer. For eksempel «Prompt Injection»-angrep ved å legge inn ondsinnede kommandoer i store språkmodeller, til og med gå imot tidligere begrensede regler; Adversarielle angrep ved å legge til skjulte informasjonsfelt i bilder eller lyd, for å påvirke maskinlæringssystemets bildeklassifiseringsevne.

AI integreres gradvis i alle aspekter av menneskelivet, fra Apple Intelligence og Google Gemini til Microsoft Copilot. Derfor bør det å håndtere sårbarheter knyttet til AI være en topprioritet. Kaspersky har brukt AI-teknologi for å beskytte kunder og partnere i mange år, kontinuerlig søket etter sårbarheter i AI-systemer, økt systemets motstandskraft og aktivt forsket på cyberangrepsteknikker for å gi pålitelig beskyttelse mot AI-angrep.

KIM THANH

Kilde: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html