Maria vertelde aan AFP dat ze het afgelopen jaar al haar spaargeld kwijt was geraakt omdat ze een account vertrouwde dat zich voordeed als Prins Hamdan bin Mohammed van Dubai op een datingsite. Na een gesprek via WhatsApp stuurde deze persoon herhaaldelijk romantische berichten en voerde talloze videogesprekken om vertrouwen te winnen.
Na analyse van de opgenomen fragmenten concludeerden technologie-experts dat het uiterlijk van de oplichter was gemanipuleerd om exact op de echte prins te lijken, zijn spraak overeenkwam met zijn lipbewegingen, maar zijn stem niet echt was.
Geconfronteerd met dit geraffineerde plan en de gebruikte technologie, geloofde het slachtoffer dat ze een relatie had met een charmante prins en maakte ze de 1.625 dollar over die hij vroeg voor een huwelijksakte en een zogenaamde koninklijke lidmaatschapskaart om haar te helpen werk te vinden in Dubai.
Maria werd achterdochtig toen de oplichter een afspraak met haar maakte in een hotel en $974 extra eiste voor een kamer. Na zijn Facebookpagina (die inmiddels is verwijderd) nader te hebben bekeken, zag ze dat het account in Nigeria was geregistreerd.
Dit is slechts één voorbeeld in een reeks oplichtingspraktijken waarbij criminelen AI-bewerkte afbeeldingen gebruiken om zich voor te doen als leden van de Arabische koninklijke familie, met als doel de emoties en het geld van slachtoffers te bemachtigen. Na een zoektocht naar potentiële slachtoffers op sociale media, nodigen de zogenaamde "prinsen" hen uit om te chatten via WhatsApp of Telegram.
De Global Anti-Fraud Alliance schat dat slachtoffers wereldwijd vorig jaar 442 miljard dollar hebben verloren. Deze situatie is inmiddels wijdverspreid en heeft zich uitgebreid naar transnationale organisaties, wat heeft geleid tot de oprichting van talloze socialemediagroepen om gebruikers te waarschuwen. Een petitie op Change.org roept het team van Prins Hamdan bin Mohammed zelfs op om alerter te zijn op mensen die zich voordoen als lid van het koningshuis.
Technisch gezien is het onduidelijk welke AI-tools zijn gebruikt om live videochats zoals die met Maria te creëren. Maar nu het internet overspoeld wordt met gezichtsvervangingstechnologie en nieuwe bewegingsbesturingstools die in staat zijn om ongelooflijk realistische video's te maken, waarschuwen experts dat deepfake-video's steeds geavanceerder zullen worden. Het is heel goed mogelijk dat we in de nabije toekomst zelfs geen onderscheid meer kunnen maken tussen echte en nepgesprekken op het scherm.
MAI QUYEN
Bron: https://baocantho.com.vn/canh-bao-chieu-tro-lua-dao-tinh-cam-bang-cong-cu-ai-a208739.html








