OpenAI advarer hackere bruker AI for å operere mer sofistikert

Hackergrupper over hele verden utnytter AI til å lage skadelig programvare, lage phishing-e-poster og samle inn data, noe som gjør cyberangrep vanskeligere å oppdage og forhindre, advarer OpenAI.

OpenAIs oktoberrapport fant at cyberaktører globalt primært integrerer kunstig intelligens (KI) i eksisterende angrepskanaler for å forbedre ytelsen, snarere enn å utvikle helt nye angrepsverktøy eller -metoder.

Ifølge OpenAI involverte mye av aktiviteten som ble oppdaget bruk av AI for å bistå med kjente oppgaver som å utvikle skadelig programvare, bygge kontrollinfrastruktur, lage mer sofistikerte phishing-e-poster og samle inn informasjon om mål.

«De blokkerte teamene integrerte stort sett AI i eksisterende prosesser, i stedet for å bygge nye prosesser basert på AI», heter det i rapporten.

Rapporten fant også at mange brukergrupper har utnyttet store språkmodeller (LLM-er) for å utvinne kunnskap innen en rekke tekniske domener, fra applikasjonsutvikling til konfigurasjon av nettverkssystemer, ofte på en måte som spesialiserer hver konto for en spesifikk oppgave.

Flere andre brukernettverk har blitt identifisert som brukere av AI-plattformer for å generere nettinnhold, inkludert artikler, bilder og videoer , for å tjene mediekampanjer eller fremme bestemte synspunkter. Imidlertid er de fleste av disse kontoene ineffektive, med svært lave engasjementsnivåer.

I tillegg har OpenAI også registrert fenomenet med svindelsentre og nettkriminelle som bruker ChatGPT for å støtte nettsvindelaktiviteter i Myanmar og Kambodsja. Noen tilfeller viser at AI ikke bare brukes til å redigere innhold, men også til å administrere arbeidsplaner, menneskelige ressurser og økonomi.

OpenAI bemerker imidlertid at AI også aktivt brukes til å forhindre svindel. Det er anslått at ChatGPT brukes tre ganger oftere til å identifisere og unngå svindel enn til å begå svindel.

De fleste ondsinnede forespørsler blir avvist av systemet, men rapporten bemerker at det fortsatt finnes en «gråsone» der tekniske eller forskningsbaserte forespørsler kan utnyttes til utilsiktede formål.

OpenAI hevder imidlertid at koden eller innholdet som opprettes ikke er skadelig før det misbrukes utenfor plattformen.

(TTXVN/Vietnam+)

Kilde: https://www.vietnamplus.vn/openai-canh-bao-tin-tac-loi-dung-ai-de-hoat-dong-tinh-vi-hon-post1068941.vnp