Det du ser og hører er ikke nødvendigvis sant i AI-ens tidsalder.

Nettsikkerhetseksperter advarer om at AI og Deepfake-teknologi gjør svindel mer sofistikerte, ettersom de enkelt kan etterligne stemmer og ansikter for å lure brukere.

«Det du ser med dine egne øyne er ikke nødvendigvis sant, og det du hører i en stemme er heller ikke nødvendigvis sant. Jo mer presserende situasjonen er, desto mer må vi verifisere og sjekke», sa cybersikkerhetsekspert Ngo Minh Hieu (Hieu PC) på Digital Trust in Finance 2026 Forum, med temaet «Bygge digital tillit til finans i AI-æraen», 12. mai.

Nettsikkerhetsekspert Ngo Minh Hieu (Hieu PC) taler på forumet.

Ifølge ekspert Ngo Minh Hieu gjør den raske utviklingen av AI og Deepfake nettsvindel mer sofistikert, ettersom nettkriminelle kan forfalske ansikter, stemmer, uttrykk og til og med bakgrunner for å manipulere ofre.

«Tidligere trodde vi at det vi så og hørte var ekte, så vi trodde det umiddelbart. Men nå kan AI forfalske alt fra ansikter og stemmer til uttrykk», sa han, og la til at den største skaden fra Deepfake ikke bare er penger, men også tapet av brukertillit.

«Når gjerningsmenn utnytter psykologiske faktorer og oppfatninger, kan de lokke ofre inn i falske investeringsplattformer eller beslaglegge eiendelene deres», la han til.

Deepfakes er enkle å få tilgang til, men vanskelige å oppdage.

Ifølge cybersikkerhetsekspert Ngo Minh Hieu er Deepfake-teknologi nå svært tilgjengelig. Mange verktøy med åpen kildekode eller rimelige tjenester lar nettkriminelle lage falske videoer fra bare et portrettbilde.

«Med bare et bilde kan du bytte ansikter, falske stemmer og ringe via FaceTime, Zalo eller WhatsApp», sa han.

På forumet demonstrerte Hieu en Deepfake-programvare som er i stand til å skifte ansikter i sanntid under videosamtaler. Denne teknologien utnyttes av mange individer til å utgi seg for å være myndighetspersoner, slektninger eller «prinser» for å svindle folk for kjærlighet og penger.

Han advarte også brukere om at de eksponerer for mye personopplysninger på sosiale medier: «Vi legger ut bilder, videoer og stemmeopptak på sosiale medier hver dag. Mange legger ikke engang ut noe, men vennene deres legger ut noe for dem. Disse dataene kan samles inn fra forskjellige kilder for å lage Deepfakes.»

Eksperten bemerket også at foreldre må være forsiktige når de legger ut bilder av barna sine på sosiale medier, ettersom nettkriminelle kan utnytte disse dataene til utpressing eller «nettkidnapping».

Ifølge Ngo Minh Hieu er det farligste aspektet ved Deepfake-teknologi dens evne til å overvinne folks «følelse av tillit».

«Videosamtaler gir alltid mer tillit enn tekstmeldinger. Kjente stemmer gir mer tillit enn skriftlig tekst. Nettkriminelle skaper ofte nødsituasjoner, som å be om pengeoverføringer, engangskoder eller appinstallasjoner for å manipulere ofre psykologisk», sa han.

Ekspert Ngo Minh Hieu: Det farligste aspektet er at Deepfakes kan overvinne folks tillitsfølelse.

Selv om deepfakes nå er mye vanskeligere å oppdage, finnes det fortsatt noen uvanlige tegn, som ulik munnform, unaturlig belysning, monoton tale eller deformerte tenner.

«Hudtonen i Deepfake-videoer er ofte veldig glatt og unaturlig», sa ekspert Hieu. Han mener imidlertid at brukerne ikke bare bør fokusere på å avgjøre om videoen er ekte eller falsk, men også stille spørsmål ved om forespørselen i samtalen er rimelig.

Datalekkasjer forårsaket av gratis AI-verktøy.

På forumet advarte ekspert Ngo Minh Hieu om at AI-chatboter gradvis blir et nytt mål for hackere hvis brukerne mangler ferdighetene til å beskytte sin personlige informasjon.

Han argumenterte for at AI nå i stor grad støtter arbeid, læring og forskning. Mange har imidlertid for vane å laste opp store mengder personopplysninger, som private bilder, familieinformasjon, arbeidsdokumenter eller forretningsdata, til chatboter uten å forutse risikoen for utnyttelse.

Videre har de fleste brukerne nesten aldri lest bruksvilkårene for AI-plattformer, mens mange gratisverktøy kan samle inn data for å trene modeller eller til andre formål.

Risikoen øker med fremveksten av mange gratis AI-applikasjoner av ukjent opprinnelse, som lar brukere lage bilder, redigere ansikter eller forvandle ekte bilder til tegneseriefigurer. Ifølge Hieu er dette en form for manipulasjon som oppfordrer brukere til frivillig å gi biometriske data til tredjeparter.

Brukere risikerer å bli eksponert for personopplysninger når de bruker AI-chatboter som mangler sikkerhet. (Illustrasjonsbilde)

For å bruke AI på en tryggere måte, anbefaler eksperter at brukere unngår å laste opp sensitiv informasjon, personlige dokumenter eller interne forretningsdata til AI-chatboter, spesielt på plattformer med ukjente operatører.

Brukere bør aktivere sikkerhetsfunksjoner som midlertidig chatmodus, automatisk sletting av samtalehistorikk og deaktivere alternativer som lar systemet bruke data til å trene AI. Tofaktorautentisering bør også aktiveres for å begrense risikoen for kontokompromittering.

Ifølge ekspert Ngo Minh Hieu kan hackere utnytte all informasjonen brukeren tidligere har delt dersom de får kontroll over en personlig AI-chatbot-konto.

«Med bare en kommando som: 'Fortell meg alt du vet om meg', kan AI aggregere en rekke brukeres personopplysninger fullstendig», advarte Hieu.

Forumet for digital tillit i finans 2026 er organisert av Digital Trust Alliance i samarbeid med National Cybersecurity Association og MoMo, under beskyttelse av departementet for offentlig sikkerhet , Vietnams statsbank og Finansdepartementet.

Arrangementet samlet eksperter og bedrifter innen finans-, bank- og teknologisektoren for å diskutere løsninger for å beskytte brukere og bygge digital tillit i sammenheng med raskt utviklende AI.

Blomsterregn

Kilde: https://vtcnews.vn/mat-thay-tai-nghe-chua-chac-la-that-trong-thoi-ai-ar1017765.html