Använda AI för att kombinera känsliga bilder för utpressning

Från ett virtuellt foto som publiceras på sociala nätverk kan skurkar använda artificiell intelligens (AI) för att skapa sexiga, till och med nakna, foton, eller lägga in realistiska ansikten i känsliga videor för att förtala och utpressa offret.

Skurkar kan använda AI för att kombinera känsliga foton och videor för att förtala och utpressa andra - Foto: AI-ritning

Förr i tiden, när man pratade om tekniken att klippa och klistra in en persons ansikte på en annan persons kropp, använde man ofta Photoshop eller specialiserad bildredigeringsprogramvara – vilket är mödosamt och lätt igenkännligt för blotta ögat.

Nu med AI-verktyg kan man göra det väldigt enkelt på "några anteckningar", men det är inte lätt att upptäcka med blotta ögat.

Ansiktsbytande sexvideo för utpressning

På grund av arbetskontakter interagerar herr H. (företagschef i Ho Chi Minh-staden) ofta på sociala nätverk.

En gång blev han vän med en ung flicka som frågade om hans arbete. Efter ett tag av att fråga om varandra, prata och dela med sig av sina tankar om arbete och privatliv, verkade de två stå varandra ganska nära.

Det fanns också många sms mellan de två med mycket tillgivna ord, tillsammans med bilder som skickades fram och tillbaka, och videosamtal för att träffas.

En dag fick Mr. H. plötsligt ett samtal från en man som påstod sig vara flickans make. Efter en "förebyggande" åtgärd mot Mr. H. krävde "maken" att han skulle överföra ersättningspengar, annars skulle han skicka bilder från deras chattar och sexvideor till sina släktingar och affärspartners.

Sedan visades Mr. H. en sexvideo på honom och den andra flickan av sin "make", tillsammans med ett videosamtal mellan de två, och inspelade intima textmeddelanden...

”Jag har aldrig träffat den där tjejen så jag är säker på att sexvideon är en photoshopad bild” – bekräftade Mr. H. Bilden av flickans ansikte i sexvideon och flickan i hans videosamtal är dock densamma, tillsammans med ett foto av det tillgivna sms:et, vilket tvingar Mr. H. att överföra pengar till sin ”man” många gånger för att bevara sitt rykte.

Genom Tuoi Tres utredning blev Mr. H. lurad på ett organiserat sätt enligt ett perfekt scenario. I detta bedrägeri blev Mr. H. lurad två gånger av deepfakes. Första gången var ett videosamtal och andra gången en sexvideo.

Det är värt att notera att Mr. H:s ansikte i sexvideon var så skickligt ympatat att tittarna hade svårt att tro att det var en video med ansiktsymptning. En AI-expert bekräftade för Tuoi Tre att skurkarna använde ett nytt AI-verktyg som kunde ympa in ansikten på videor perfekt... som riktiga.

AI-verktyg för ansiktsbyte finns i överflöd

Det finns för närvarande många AI-applikationsverktyg som har funktioner som att skapa en person med önskat ansikte och sammanfoga det önskade ansiktet med en annan persons kropp.

Bland dem finns verktyg med funktioner som tjänar dåliga syften, som att förvandla vanliga foton till nakenfoton genom att "klä av" personen på fotot, eller att ersätta en persons ansikte i videor med ett önskat ansikte...

De flesta av dessa AI-verktyg finns tillgängliga för provperiod, men om du betalar för dem får du alla funktioner med mycket snabb transformationstid.

Till exempel, med funktionen ansikte mot kropp behöver användarna bara ladda upp två motsvarande foton och vänta några sekunder på resultaten.

Eller med funktionen att skapa nakenbilder från vanliga foton kan AI-verktyget göra det väldigt snabbt, på bara några dussin sekunder, vilket gör tittarna förvånade.

Även funktionen att ersätta ansikten i sexvideor gör AI-verktyget mycket snabbt, det tar mindre än en minut för videor som är några sekunder långa.

I ett samtal med Tuoi Tre analyserade Nguyen Kim Tho, chef för forsknings- och utvecklingsteamet på cybersäkerhetsföretaget VNetwork, termen deepfake, som syftar på falska videor och bilder som skapats med hjälp av AI för att få tittarna att tro att de är verkliga.

Deepfake-teknik använder djupinlärningsmodeller som neurala nätverk för att analysera en persons ansikts- och röstdata och skapa falskt innehåll som ser exakt ut som den personen.

"Tack vare kraftfulla algoritmer kan skurkar lägga in offrets ansikte i känsliga videor (till exempel "sängvideor", porr) eller redigera bilder för att skapa falska nakenbilder."

"Deepfake-programvara och applikationer är nu mycket populära på internet, även med mobilapplikationer, öppen källkod eller gratis onlinetjänster – vilket gör det enkelt för vem som helst att få tillgång till verktyg för att skapa falska videor och foton, så folk måste vara vaksamma", sa Tho.

Håll dig borta från "sexchatt"

Många bedrägerier börjar med att man skaffar vänner online och sedan lurar offret till "sexchatt" eller skickar känsliga foton. Därför bör användare aldrig skicka privata foton eller videor till personer de bara träffar online, oavsett vilka löften eller hot de ger.

Kom alltid ihåg att allt innehåll som delas (även via privata meddelanden) kan spelas in (skärmdump, video) och sedan redigeras och användas mot dig.

Om du videosamtalar, var försiktig med främlingar som ber om känsligt innehåll – det kan vara en falsk skärm eller så spelar de in.

Cybersäkerhetsexperter råder användare att aldrig lita på någon enbart genom onlinekontakt, och att verifiera den andra personens identitet och avsikter innan de delar något känsligt.

Dessutom, om du får ett sms eller samtal som hotar med att släppa "heta" foton för utpressning, behöver användarna inte vara rädda eller skynda sig att överföra pengar.

Att betala garanterar inte att skurkarna kommer att radera videon; de kan fortsätta kräva mer eller lägga upp innehållet online ändå, säger experter.

Istället för att följa brottslingarnas begäran bör användarna samla in bevis (meddelanden, telefonnummer, kontaktkonton, hotfullt innehåll...) och omedelbart rapportera till närmaste polismyndighet eller rapportera händelsen via ministeriet för offentlig säkerhet :s VNeID-applikation för snabb support.

Hur identifierar man sig?

Enligt Nguyen Kim Tho blir det allt svårare att skilja mellan riktiga bilder och videor och djupförfalskningar, men det finns fortfarande vissa identifierande tecken och stödjande verktyg.

Användare kan observera manuellt, eftersom deepfake-innehåll ibland har avvikelser i bild och ljud.

Till exempel kan en sammansatt bild visa brus eller färgskillnader mellan det sammansatta ansiktet och kroppen. En falsk video kan ha ljud- och bildavvikelser (läpprörelser som inte matchar tal) eller ansiktsuttryck som verkar stela och onaturliga.

Tidigare gjorde vissa deepfake-videor att karaktärerna inte blinkade, eller att ljuset och skuggorna i ansiktet inte matchade sammanhanget – vilket var tecken på att videon var redigerad.

Även om tekniken förbättras (till exempel har nya deepfakes lagt till realistiska blinkningsrörelser), kan observanta tittare fortfarande upptäcka en del ologiska detaljer i videor och foton.

Forskare utvecklar nu många algoritmer för att automatiskt upptäcka djupförfalskningsspår.

AI-genererat innehåll lämnar ofta ett distinkt "digitalt fingeravtryck" i varje pixel som maskiner kan känna igen.

Till exempel har Intel introducerat den första realtidsdeepfake-detektorn, som kan analysera videor och avgöra om karaktärerna i dem är riktiga människor eller AI-genererade.

Dessutom tillåter vissa webbplatser användare att ladda upp videor och foton för att kontrollera bildernas äkthet (till exempel Deepware, Sensity AI-verktyg...). Dessa system uppdateras ständigt för att hålla jämna steg med nya deepfake-tekniker.

Användare kan särskilt kontrollera inläggets källa och sammanhang när de stöter på en känslig video eller bild eftersom många djupförfalskade videor sprids via falska konton eller bottar på sociala nätverk.

Om känsligt innehåll om en person kommer från en inofficiell källa eller ett anonymt konto, var skeptisk till dess äkthet. Du kanske vill försöka kontakta personen som visas i innehållet direkt för att verifiera att de faktiskt gjorde det.

Dessutom främjar projekt som [namn] inbäddning av autentiseringsinformation (digitala signaturer) i foton och videor redan från skapandeögonblicket, vilket hjälper till att skilja originalinnehåll från redigerat innehåll. I framtiden kan användare använda dessa autentiseringstecken för att identifiera trovärdigt innehåll, säger Tho.

5 tips för att skydda dig själv

1. Begränsa delningen av känsliga, privata foton och videor (särskilt nakenfoton, familjefoton, barnfoton).

2. Ställ in dina sociala mediekonton på privata (dela endast med betrodda personer).

3. Lämna inte ut för mycket personlig information (fullständigt namn, telefonnummer, adress...) på offentliga sociala nätverk.

4. Ställ in starka lösenord och aktivera tvåstegsverifiering för dina konton för att undvika att bli hackade.

5. Sök regelbundet efter ditt namn och din bild på Google (eller använd omvända bildsökningsverktyg som Google Image, TinEye) för att se om några av dina foton har publicerats utan tillstånd och begär omedelbart att de tas bort.

Läs mer Tillbaka till ämnen

DYGD

Källa: https://tuoitre.vn/dung-ai-ghep-hinh-anh-nhay-cam-de-tong-tien-20250317075948373.htm