Deepfakes sprer seg, og AI-kappløpet om å bekjempe ild med ild varmes opp.

Deepfakes blir stadig mer sofistikerte, noe som tvinger sikkerhetsoppstartsbedrifter til å bruke AI for å oppdage og forhindre dem, noe som utløser et hardt teknologisk kappløp.

Kampen mot Deepfake ettersom AI blir både et «våpen» og et «skjold»

I AI-ens tidsalder er konfrontasjonen mellom nettkriminelle og sikkerhetsselskaper ikke lenger bare et teknologisk kappløp, men et forsøk på å gjenvinne tillit som er erodert av stadig mer sofistikert falskt innhold.

Når det du ser og hører ikke lenger er troverdig.

For bare noen få år siden kunne brukere identifisere deepfakes gjennom ganske «grove» tegn som unaturlige ansiktsuttrykk, ujevnlige munnbevegelser eller uvanlige øyebevegelser. Disse metodene ble imidlertid raskt utdaterte etter hvert som AI-teknologien utviklet seg.

For tiden kan AI gjenskape bilder og stemmer med svært høy nøyaktighet, til og med simulere subtile vibrasjoner i den menneskelige stemmen. I et eksperiment av journalisten Gaby Del Valle, ved å bruke bare 9 sekunder med lyd samlet inn fra sosiale medier, skapte AI-systemet en falsk versjon som kunne opprettholde en samtale nesten overbevisende.

I hverdagen kan intuisjon fortsatt hjelpe folk med å oppdage avvik. Men på arbeidsplassen eller i økonomiske transaksjoner – der informasjon behandles raskt og tid er avgjørende – blir disse mistenkelige tegnene lett oversett, noe som øker risikoen for å bli svindlet.

Deepfakes er ikke lenger begrenset til underholdningsinnhold på nett; nettkriminelle utnytter dem nå til organisert svindel. De kan samle inn offentlig tilgjengelige data på sosiale medier for å bygge en «stemmebank» av ansatte i et selskap, og deretter bruke AI til å utgi seg for å være ledere eller kolleger for å ringe og be om pengeoverføringer.

Skadene fra disse hendelsene er betydelige. Hver deepfake-svindel kan koste bedrifter hundretusenvis av dollar. Bekymringsfullt nok utnytter disse scenarioene ofte offerets følelse av at det haster – som å utgi seg for å være en kjær person for å be om hjelp – noe som får dem til å senke garden på svært kort tid.

«Å bekjempe branner med ild» ved hjelp av kunstig intelligens

For å bekjempe dette velger mange sikkerhetsoppstartsbedrifter en omvendt tilnærming: å bruke AI til å oppdage deepfakes.

En vanlig tilnærming er «lærer-lærling»-modellen innen maskinlæring. Systemet trenes ved hjelp av store mengder ekte og falske data for å lære å identifisere tekniske spor som mennesker ikke kan se med det blotte øye.

Denne tilnærmingen skaper en kontinuerlig sløyfe: etter hvert som deepfakes blir mer sofistikerte, må deteksjonssystemene stadig oppgraderes for å holde tritt. Kappløpet ser derfor ut til å ikke ta noen ende.

Utfordringen ligger imidlertid i at kostnaden ved å lage falskt innhold blir stadig billigere takket være den utbredte bruken av AI-modeller, mens deteksjon og forsvar krever betydelig flere ressurser.

En ny tilnærming er å etablere standarder for å verifisere opprinnelsen til innhold, slik at brukerne vet hvor dataene kommer fra og om de har blitt redigert. Denne løsningen står imidlertid fortsatt overfor risikoen for forfalskning hvis det ikke finnes et strengt verifiseringssystem.

På lang sikt forventes det at verktøy for deepfake-deteksjon vil bli standard beskyttelseslag, integrert direkte i nettlesere, digitale plattformer eller internettinfrastruktur – på samme måte som antivirusprogramvare spiller i dag.

Tilbake til emnet

ØSTHAVET

Kilde: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm