I ett uttalande till AFP sa Maria att hon förlorade alla sina besparingar under det senaste året eftersom hon litade på ett konto som påstod sig vara prins Hamdan bin Mohammed av Dubai på en dejtingsajt. Efter att ha chattat via WhatsApp skickade personen upprepade gånger romantiska meddelanden och ringde ett flertal videosamtal för att bygga upp förtroende.
När teknikexperter analyserade de inspelade klippen sa de att bedragarens utseende var förfalskat för att se exakt ut som den riktiga prinsen, hans tal matchade hans läpprörelser, men hans röst var inte riktig.
Inför denna sofistikerade plan och teknologi trodde offret att hon dejtade en charmig prins och överförde de 1 625 USD han begärde för ett vigselbevis och ett så kallat kungligt medlemskort för att hjälpa henne hitta arbete i Dubai.
Maria blev misstänksam när bedragaren stämde möte med henne på ett hotell och krävde ytterligare 974 dollar för ett rum. Vid en närmare granskning av hans Facebooksida (som sedan dess har raderats) upptäckte hon att kontot var registrerat i Nigeria.
Detta är bara ett fall i en serie bedrägerier där brottslingar använder AI-förstärkta bilder för att utge sig för att vara medlemmar av arabisk kunglighet, med målet att rikta in sig på offrens känslor och pengar. Efter att ha "jagat byte" på sociala medier bjuder "prinsarna" in offren att chatta via WhatsApp eller Telegram.
Global Anti-Fraud Alliance uppskattar att offer världen över förlorade 442 miljarder dollar förra året. Denna situation är nu utbredd och har eskalerat till transnationella organisationer, vilket har lett till skapandet av ett flertal sociala mediegrupper för att varna användare. En namninsamling på Change.org uppmanar till och med prins Hamdan bin Mohammeds team att vara mer vaksamma mot kungliga imitatörer.
Tekniskt sett är det oklart vilka AI-verktyg som användes för att skapa livevideochattar som den med Maria. Men med internet som översvämmats av ansiktsbytesteknik och nya rörelsekontrollverktyg som kan skapa otroligt realistiska videor, varnar experter för att deepfake-videor kommer att bli alltmer sofistikerade, och det är fullt möjligt att vi inom en snar framtid inte ens kommer att kunna skilja mellan riktiga och falska samtal på skärmen.
MAI QUYEN
Källa: https://baocantho.com.vn/canh-bao-chieu-tro-lua-dao-tinh-cam-bang-cong-cu-ai-a208739.html







