AI를 이용해 가짜 이미지와 음성을 만들어 돈을 사기하다

2월 2일, Bkav의 악성코드 연구 센터 소장인 응우옌 티엔 닷 씨는 영상 통화를 해서 친척이나 친구의 얼굴과 목소리를 본다고 해서 반드시 그 사람과 대화하는 것은 아니라고 말했습니다.

응우옌 탄 흐엉(등장인물의 이름은 가명임)은 하노이 의 사무직 근로자입니다. 페이스북 메신저로 친구와 대화하던 중 흐엉의 친구는 작별인사를 하고 대화를 끝냈지만, 갑자기 문자로 돌아와 돈을 빌리고 싶다며 은행 계좌로 돈을 이체하자고 제안했습니다.

계정 이름이 친구의 이름과 일치했음에도 불구하고 흐엉은 여전히 ​​의심스러워서 영상 통화를 요청해 확인했습니다. 친구의 설명에 따르면, 친구는 즉시 동의했지만, "인터넷 불안정"으로 인해 통화는 몇 초만 지속되었다고 합니다. 영상 통화에서 친구의 얼굴을 보고, 목소리도 그 사람의 것이란 것을 깨달은 흐엉은 더 이상 의심하지 않고 돈을 이체했다. 하지만 돈을 이체한 후에야 흐엉은 해커의 함정에 빠졌다는 사실을 깨달았습니다.

최근 들어 많은 사람들이 딥페이크와 인공지능(AI)을 이용한 금융 사기에 시달리고 있습니다.

흐엉뿐만 아니라 흐엉의 친구, 친척 등 다른 많은 피해자들도 같은 방식으로 속았습니다. 악당들이 이런 종류의 페이스북 계정을 통해 훔칠 수 있는 돈의 양은 수천만 동에 달합니다.

2023년 하반기에 Bkav는 피해자들로부터 유사한 사기 사건에 대한 신고와 도움 요청을 지속적으로 접수했습니다. Bkav 전문가에 따르면, 흐엉의 경우 악의적인 놈들은 페이스북 계정을 장악했지만 즉시 완전히 장악하지는 않고 비밀리에 따라다니며 피해자인 척하고 친구와 가족에게 돈을 빌릴 기회만 노렸다고 합니다.

그들은 AI를 사용하여 Facebook 계정 소유자의 얼굴과 목소리를 합성한 가짜 영상(딥페이크)을 만듭니다. 인증을 위해 영상 통화를 요청받았을 때, 그들은 통화를 수락했지만 감지되지 않으려고 재빨리 통화를 끊었습니다.

Bkav의 악성코드 연구 센터인 응우옌 티엔 닷(Nguyen Tien Dat) 씨에 따르면, AI를 통해 사용자 데이터를 수집하고 분석하는 능력을 통해 정교한 사기 전략을 수립할 수 있습니다. 이는 Deepfake와 GPT를 결합하면 사기 시나리오의 복잡성이 증가하여 사기 감지가 더 어려워진다는 것을 의미합니다.

Bkav는 사용자들에게 특히 주의를 기울이고, 개인정보(CCCD, 은행 계좌, OTP 코드 등)를 제공하지 말고, 사기의 징후가 있는 전화, 소셜 네트워크, 웹사이트를 통해 낯선 사람에게 돈을 이체하지 말 것을 권고합니다.

소셜 네트워크를 통해 계좌로 돈을 빌리거나 이체해 달라는 요청이 있는 경우, 전화나 다른 커뮤니케이션 채널을 이용해 재확인하는 등 다른 인증 방법을 사용해야 합니다.

출처: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm