Kampen mot Deepfake då AI blir både ett "vapen" och en "sköld"
I AI:s tidsålder är konfrontationen mellan cyberbrottslingar och säkerhetsföretag inte längre bara en teknologisk kapplöpning, utan en ansträngning att återfå förtroende som urholkats av alltmer sofistikerat falskt innehåll.
När det man ser och hör inte längre är trovärdigt.
För bara några år sedan kunde användare identifiera deepfakes genom ganska "grova" tecken som onaturliga ansiktsuttryck, ojämna munrörelser eller ovanliga ögonrörelser. Dessa metoder blev dock snabbt föråldrade i takt med att AI-tekniken utvecklades.
För närvarande kan AI återskapa bilder och röster med mycket hög noggrannhet, till och med simulera subtila vibrationer i den mänskliga rösten. I ett experiment av journalisten Gaby Del Valle, med endast 9 sekunder ljud insamlat från sociala medier, skapade AI-systemet en falsk version som kunde upprätthålla en konversation nästan övertygande.
I vardagen kan intuition fortfarande hjälpa människor att upptäcka avvikelser. Men på arbetsplatsen eller vid finansiella transaktioner – där information bearbetas snabbt och tiden är avgörande – förbises dessa misstänkta tecken lätt, vilket ökar risken för att bli lurad.
Deepfakes är inte längre begränsade till onlineunderhållningsinnehåll; cyberbrottslingar utnyttjar dem nu för organiserade bedrägerier. De kan samla in offentligt tillgänglig data på sociala medier för att bygga en "röstbank" av anställda inom ett företag, och sedan använda AI för att utge sig för att vara ledare eller kollegor för att ringa samtal och begära pengaöverföringar.
Skadorna från dessa incidenter är betydande. Varje deepfake-bedrägeri kan kosta företag hundratusentals dollar. Oroväckande nog utnyttjar scenarierna ofta offrets känsla av brådska – som att utge sig för att vara en närstående för att be om hjälp – vilket får dem att sänka garden på mycket kort tid.
"Att bekämpa eld med eld" med hjälp av AI
För att bekämpa detta väljer många säkerhetsstartups en omvänd metod: att använda AI för att upptäcka djupförfalskningar.
Ett vanligt tillvägagångssätt är "lärling-lärlings"-modellen inom maskininlärning. Systemet tränas med hjälp av stora mängder verklig och falsk data för att lära sig identifiera tekniska spår som människor inte kan se med blotta ögat.
Denna metod skapar en kontinuerlig loop: i takt med att deepfakes blir mer sofistikerade måste detekteringssystem ständigt uppgraderas för att hålla jämna steg. Kapplöpningen verkar därför inte ha något slut.
Utmaningen ligger dock i att kostnaden för att skapa falskt innehåll blir allt billigare tack vare den utbredda användningen av AI-modeller, medan upptäckt och försvar kräver betydligt mer resurser.
En ny metod är att etablera standarder för att verifiera innehållets ursprung, vilket hjälper användare att veta var informationen kommer ifrån och om den har redigerats. Denna lösning riskerar dock fortfarande att bli förfalskad om det inte finns något rigoröst verifieringssystem.
På lång sikt förväntas verktyg för deepfake-detektering bli standardskyddslagret, integrerat direkt i webbläsare, digitala plattformar eller internetinfrastruktur – ungefär som antivirusprogram spelar idag.
Källa: https://tuoitre.vn/deepfake-lan-rong-cuoc-dua-ai-lay-doc-tri-doc-nong-len-2026042808084971.htm
Kommentar (0)