”Det du ser med dina egna ögon är inte nödvändigtvis sant, och det du hör i en röst är inte heller nödvändigtvis sant. Ju mer brådskande situationen är, desto mer behöver vi verifiera och kontrollera”, sa cybersäkerhetsexperten Ngo Minh Hieu (Hieu PC) vid forumet Digital Trust in Finance 2026, med temat ”Att bygga digitalt förtroende inom finans i AI-eran”, den 12 maj.
Cybersäkerhetsexperten Ngo Minh Hieu (Hieu PC) talar på forumet.
Enligt experten Ngo Minh Hieu gör den snabba utvecklingen av AI och Deepfake onlinebedrägerier mer sofistikerade, eftersom cyberbrottslingar kan förfalska ansikten, röster, ansiktsuttryck och till och med bakgrunder för att manipulera offer.
"Tidigare trodde vi att det vi såg och hörde var verkligt, så vi trodde på det direkt. Men nu kan AI förfalska allt från ansikten och röster till uttryck", sa han och tillade att den största skadan från Deepfake inte bara är pengar, utan också förlusten av användarnas förtroende.
"När förövare utnyttjar psykologiska faktorer och övertygelser kan de locka offer till bedrägliga investeringsplattformar eller beslagta deras tillgångar", tillade han.
Deepfakes är lätta att komma åt, men svåra att upptäcka.
Enligt cybersäkerhetsexperten Ngo Minh Hieu är deepfake-tekniken nu mycket lättillgänglig. Många verktyg med öppen källkod eller billiga tjänster gör det möjligt för cyberbrottslingar att skapa falska videor från bara ett porträttfoto.
"Med bara en bild kan du byta ansikten, fejka röster och ringa samtal via FaceTime, Zalo eller WhatsApp", sa han.
På forumet demonstrerade Mr. Hieu en Deepfake-programvara som kan byta ansikten i realtid under videosamtal. Denna teknik utnyttjas av många individer för att utge sig för att vara regeringstjänstemän, släktingar eller "prinsar" för att lura folk på kärlek och pengar.
Han varnade också användare för att de exponerar för mycket personuppgifter på sociala medier: "Vi publicerar bilder, videor och röstinspelningar på sociala medier varje dag. Många människor publicerar inte ens, men deras vänner publicerar åt dem. Denna data kan samlas in från olika källor för att skapa Deepfakes."
Experten noterade också att föräldrar måste vara försiktiga när de publicerar bilder på sina barn på sociala medier, eftersom cyberbrottslingar kan utnyttja denna data för utpressning eller "onlinekidnappning".
Enligt Ngo Minh Hieu är den farligaste aspekten av Deepfake-tekniken dess förmåga att övervinna människors "känsla av förtroende".
"Videosamtal inger alltid mer förtroende än textmeddelanden. Bekanta röster inger mer förtroende än skriven text. Cyberbrottslingar skapar ofta nödsituationer som att begära pengaöverföringar, engångskoder eller appinstallationer för att psykologiskt manipulera offer", sa han.
Experten Ngo Minh Hieu: Den farligaste aspekten är att Deepfakes kan övervinna människors känsla av förtroende.
Även om deepfakes nu är mycket svårare att upptäcka, finns det fortfarande några ovanliga tecken som ojämna munformer, onaturlig belysning, monotont tal eller deformerade tänder.
"Hudtonen i Deepfake-videor är ofta väldigt slät och onaturlig", sa experten Hieu. Han anser dock att användarna inte bara bör fokusera på att avgöra om videon är riktig eller fejk, utan också ifrågasätta om begäran i samtalet är rimlig.
Dataläckor orsakade av gratis AI-verktyg.
På forumet varnade experten Ngo Minh Hieu för att AI-chattrobotar gradvis blir ett nytt mål för hackare om användarna saknar kompetensen att skydda sin personliga information.
Han menade att AI nu starkt stöder arbete, lärande och forskning. Många har dock för vana att ladda upp stora mängder personuppgifter, såsom privata foton, familjeinformation, arbetsdokument eller affärsdata, till chatbotar utan att förutse risken för utnyttjande.
Dessutom har majoriteten av användarna nästan aldrig läst användarvillkoren för AI-plattformar, medan många gratisverktyg kan samla in data för att träna modeller eller för andra ändamål.
Riskerna ökar med framväxten av många gratis AI-applikationer av okänt ursprung, som gör det möjligt för användare att skapa bilder, redigera ansikten eller omvandla riktiga foton till seriefigurer. Enligt Hieu är detta en form av manipulation som uppmuntrar användare att frivilligt lämna ut biometriska uppgifter till tredje part.
Användare riskerar att exponeras för personuppgifter när de använder AI-chattrobotar som saknar säkerhet. (Illustrativ bild)
För att använda AI säkrare rekommenderar experter att användare undviker att ladda upp känslig information, personliga dokument eller intern affärsdata till AI-chattrobotar, särskilt de plattformar vars operatörer är okända.
Användare bör aktivera säkerhetsfunktioner som tillfälligt chattläge, automatisk radering av konversationshistorik och inaktivera alternativ som tillåter systemet att använda data för att träna AI. Tvåfaktorsautentisering bör också aktiveras för att begränsa risken för kontokompromettering.
Enligt experten Ngo Minh Hieu kan hackare, om de får kontroll över ett personligt AI-chatbotkonto, utnyttja all information som användaren tidigare har delat.
"Med bara ett kommando som 'Berätta allt du vet om mig' kan AI aggregera en mängd användares personuppgifter", varnade Hieu.
Forumet Digital Trust in Finance 2026 organiseras av Digital Trust Alliance i samarbete med National Cybersecurity Association och MoMo, under beskydd av ministeriet för offentlig säkerhet , Vietnams statsbank och finansministeriet.
Evenemanget samlade experter och företag inom finans-, bank- och tekniksektorerna för att diskutera lösningar för att skydda användare och bygga digitalt förtroende i samband med snabbt utvecklande AI.
Källa: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html
Kommentar (0)