Deepfakes spreder sig, og AI-kapløbet om at bekæmpe ild med ild bliver mere og mere intensivt.

Deepfakes bliver mere og mere sofistikerede, hvilket tvinger sikkerhedsstartups til at bruge AI til at opdage og forhindre dem, hvilket udløser et hårdt teknologisk kapløb.

Kampen mod Deepfake, da AI bliver både et "våben" og et "skjold"

I AI'ens tidsalder er konfrontationen mellem cyberkriminelle og sikkerhedsvirksomheder ikke længere blot et teknologisk kapløb, men et forsøg på at genvinde tillid, der er undergravet af stadig mere sofistikeret falsk indhold.

Når det, man ser og hører, ikke længere er troværdigt.

For blot få år siden kunne brugerne identificere deepfakes gennem temmelig "grove" tegn såsom unaturlige ansigtsudtryk, uensartede mundbevægelser eller usædvanlige øjenbevægelser. Disse metoder blev dog hurtigt forældede i takt med udviklingen af ​​AI-teknologi.

I øjeblikket kan AI genskabe billeder og stemmer med meget høj nøjagtighed, endda simulere subtile vibrationer i den menneskelige stemme. I et eksperiment foretaget af journalisten Gaby Del Valle, ved kun at bruge 9 sekunders lyd indsamlet fra sociale medier, skabte AI-systemet en falsk version, der kunne opretholde en samtale næsten overbevisende.

I hverdagen kan intuition stadig hjælpe folk med at få øje på uregelmæssigheder. Men på arbejdspladsen eller i forbindelse med finansielle transaktioner – hvor information behandles hurtigt, og tiden er afgørende – bliver disse mistænkelige tegn let overset, hvilket øger risikoen for at blive snydt.

Du vil måske også synes om

AI 'læser' scriptet og advarer brugerne om svindel.På mindre end et øjeblik analyserer MoMos AI-system samtidig over 1.000 risikosignaler. Hvis der opstår karakteristika, der ligner tidligere identificerede svindelmønstre, vurderer systemet risikoniveauet og udsender en advarsel.

Deepfakes er ikke længere begrænset til online underholdningsindhold; cyberkriminelle udnytter dem nu til organiseret svindel. De kan indsamle offentligt tilgængelige data på sociale medier for at opbygge en "stemmebank" af medarbejdere i en virksomhed og derefter bruge AI til at udgive sig for ledere eller kolleger for at foretage opkald og anmode om pengeoverførsler.

Skaden fra disse hændelser er betydelig. Hvert deepfake-svindelnummer kan koste virksomheder hundredtusindvis af dollars. Bekymrende er det, at scenarierne ofte udnytter offerets følelse af hastende handlinger – såsom at udgive sig for at være en elsket person for at bede om hjælp – hvilket får dem til at sænke paraderne på meget kort tid.

'Bekæmpelse af ild med ild' ved hjælp af kunstig intelligens

For at bekæmpe dette vælger mange sikkerhedsstartups en omvendt tilgang: de bruger selve kunstig intelligens til at opdage deepfakes.

En almindelig tilgang er "lærer-lærling"-modellen inden for maskinlæring. Systemet trænes ved hjælp af store mængder reelle og falske data for at lære at identificere tekniske spor, som mennesker ikke kan se med det blotte øje.

Denne tilgang skaber en kontinuerlig løkke: Efterhånden som deepfakes bliver mere sofistikerede, skal detektionssystemer konstant opgraderes for at følge med. Kapløbet synes derfor ikke at have nogen ende.

Udfordringen ligger imidlertid i, at omkostningerne ved at skabe falsk indhold bliver stadig billigere takket være den udbredte brug af AI-modeller, mens detektion og forsvar kræver betydeligt flere ressourcer.

Du vil måske også synes om

Brugen af ​​kunstig intelligens på universiteter skal sikre akademisk integritet.Undervisningsministeriet planlægger at indarbejde regler om brugen af ​​kunstig intelligens i de nye uddannelsesregler på universitetsniveau, der erstatter de nuværende regler.

En ny tilgang er at etablere standarder for verifikation af indholds oprindelse, hvilket hjælper brugerne med at vide, hvor dataene kommer fra, og om de er blevet redigeret. Denne løsning er dog stadig forbundet med risiko for forfalskning, hvis der ikke er et strengt verifikationssystem.

På lang sigt forventes det, at deepfake-detektionsværktøjer vil blive standardbeskyttelseslaget, integreret direkte i browsere, digitale platforme eller internetinfrastruktur – svarende til antivirusprogrammers rolle i dag.

Tilbage til emnet

ØSTHAVET

Kilde: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm