Maria sa til AFP at hun mistet alle sparepengene sine det siste året fordi hun stolte på en konto som påsto å være prins Hamdan bin Mohammed av Dubai på en datingnettside. Etter å ha chattet via WhatsApp sendte denne personen gjentatte ganger romantiske meldinger og foretok en rekke videosamtaler for å bygge tillit.
Teknologieksperter analyserte de innspilte klippene og sa at svindlerens utseende var forfalsket for å se nøyaktig ut som den virkelige prinsen, talen hans samsvarte med leppebevegelsene hans, men stemmen hans var ikke ekte.
Stilt overfor denne sofistikerte planen og teknologien, trodde offeret at hun datet en sjarmerende prins og overførte de 1625 dollarene han ba om for en vigselsattest og et såkalt kongelig medlemskort for å hjelpe henne med å finne arbeid i Dubai.
Maria ble mistenksom da svindleren avtalte å møte henne på et hotell og krevde ytterligere 974 dollar for et rom. Ved nærmere undersøkelse av Facebook-siden hans (som siden har blitt slettet), la hun merke til at kontoen var registrert i Nigeria.
Dette er bare ett tilfelle i en rekke svindelforsøk der kriminelle bruker AI-forbedrede bilder for å utgi seg for å være medlemmer av arabisk kongefamilie, og dermed angripe ofrenes følelser og penger. Etter å ha «jakt på byttedyr» på sosiale medier, inviterer «prinsene» ofrene til å chatte via WhatsApp eller Telegram.
Global Anti-Fraud Alliance anslår at ofre verden over tapte 442 milliarder dollar i fjor. Denne situasjonen er nå utbredt og har eskalert til transnasjonale organisasjoner, noe som har ført til opprettelsen av en rekke sosiale mediegrupper for å advare brukere. En underskriftskampanje på Change.org oppfordrer til og med prins Hamdan bin Mohammeds team til å være mer årvåkne mot kongelige imitatorer.
Teknisk sett er det uklart hvilke AI-verktøy som ble brukt til å lage live videochatter som den med Maria. Men med internett oversvømmet av ansiktsbytteteknologi og nye bevegelseskontrollverktøy som er i stand til å lage utrolig realistiske videoer, advarer eksperter om at deepfake-videoer vil bli stadig mer sofistikerte, og det er ganske mulig at vi i nær fremtid ikke engang vil kunne skille mellom ekte og falske samtaler på skjermen.
MAI QUYEN
Kilde: https://baocantho.com.vn/canh-bao-chieu-tro-lua-dao-tinh-cam-bang-cong-cu-ai-a208739.html








