마리아는 AFP와의 인터뷰에서 지난 1년 동안 두바이의 함단 빈 모하메드 왕자라고 주장하는 계정을 믿었다가 저축한 돈을 모두 잃었다고 말했습니다. 왓츠앱으로 대화를 나눈 후, 이 사람은 신뢰를 얻기 위해 반복적으로 로맨틱한 메시지를 보내고 수많은 영상 통화를 시도했습니다.
녹화된 영상을 분석한 기술 전문가들은 사기꾼의 외모는 진짜 왕자와 똑같이 보이도록 조작되었고, 말하는 방식도 입 모양과 일치했지만, 목소리는 가짜였다고 밝혔습니다.
이 정교한 사기 수법과 기술에 속아 넘어간 피해자는 자신이 매력적인 왕자와 데이트하고 있다고 믿고, 결혼 증명서와 두바이에서 일자리를 구하는 데 도움이 될 것이라는 명목의 소위 '왕실 회원 카드' 발급 명목으로 그가 요구한 1,625달러를 송금했습니다.
마리아는 사기꾼이 호텔에서 만나자고 제안하며 객실 요금으로 974달러를 추가로 요구했을 때 의심을 품게 되었습니다. (현재 삭제된) 그의 페이스북 페이지를 자세히 살펴보니 계정이 나이지리아에 등록되어 있는 것을 발견했습니다.
이는 범죄자들이 인공지능으로 보정한 이미지를 이용해 아랍 왕족을 사칭하고 피해자들의 감정과 돈을 노리는 일련의 사기 행각 중 하나일 뿐입니다. 소셜 미디어에서 "먹잇감"을 물색한 이 "왕자"들은 피해자들에게 왓츠앱이나 텔레그램을 통해 대화를 시도하도록 유도합니다.
세계사기방지연맹(Global Anti-Fraud Alliance)은 전 세계 사기 피해자들이 작년에 4420억 달러의 손실을 입었다고 추산합니다. 이러한 상황은 이제 광범위하게 퍼져나가 국제적인 조직까지 연루되고 있으며, 이에 따라 사용자들에게 경고하는 수많은 소셜 미디어 그룹이 생겨났습니다. 심지어 Change.org에서는 함단 빈 모하메드 왕세자 측에 왕족 사칭범에 대한 경계를 강화해 달라는 청원까지 제기되었습니다.
엄밀히 말하면, 마리아와의 영상 채팅처럼 실제와 똑같은 영상을 만드는 데 어떤 AI 도구가 사용되었는지는 불분명합니다. 하지만 얼굴 바꾸기 기술과 놀랍도록 사실적인 영상을 만들어낼 수 있는 새로운 동작 제어 도구들이 인터넷에 넘쳐나면서, 전문가들은 딥페이크 영상이 점점 더 정교해질 것이며, 머지않아 화면 속 대화가 진짜인지 가짜인지 구분할 수 없게 될 가능성이 크다고 경고합니다.
마이 꾸옌
출처: https://baocantho.com.vn/canh-bao-chieu-tro-lua-dao-tinh-cam-bang-cong-cu-ai-a208739.html







