인공지능을 이용해 가짜 이미지와 음성을 만들어 돈을 사기치는 행위.

2월 2일, Bkav의 안티멀웨어 연구센터 총괄 책임자인 응우옌 티엔 닷(Nguyen Tien Dat) 씨는 영상 통화를 통해 친척이나 친구의 얼굴을 보고 목소리를 듣더라도, 그것이 반드시 그 사람과 대화하고 있다는 것을 의미하는 것은 아니라고 밝혔습니다.

응우옌 탄 흐엉(가명)은 하노이 에서 회사원으로 일하고 있습니다. 페이스북 메신저로 친구와 대화를 나누던 중, 친구가 작별 인사를 하고 대화를 종료했는데, 갑자기 다시 메시지를 보내 돈을 빌려달라고 하며 은행 계좌로 송금해달라고 요청했습니다.

계좌 이름이 친구의 것과 일치했지만, 후옹은 여전히 ​​약간 의심스러워 영상 통화를 요청했습니다. 친구는 흔쾌히 동의했지만, 친구의 설명에 따르면 "인터넷 연결이 불안정해서" 통화는 몇 초 만에 끝났습니다. 영상 통화에서 친구의 얼굴을 보고 목소리도 확인하자, 후옹은 더 이상 의심하지 않고 송금을 했습니다. 그러나 송금이 완료된 후에야 후옹은 자신이 해킹 함정에 빠졌다는 사실을 깨달았습니다.

최근 딥페이크 기술과 인공지능(AI)을 이용한 금융 사기의 피해자가 많이 발생하고 있습니다.

후옹 씨만 피해자가 아니었습니다. 그녀의 친구와 친척을 포함한 많은 다른 피해자들도 비슷한 수법으로 사기를 당했습니다. 사기꾼들이 이런 유형의 페이스북 계정을 통해 갈취한 금액은 수천만 VND에 달했습니다.

2023년 하반기 동안 Bkav는 유사한 사기 사건 피해자들로부터 지속적으로 신고와 지원 요청을 받았습니다. Bkav 전문가들에 따르면, 후옹 씨의 경우 가해자는 그녀의 페이스북 계정을 탈취했지만 즉시 완전한 계정 장악에 이르지는 않았습니다. 대신, 가해자는 피해자를 몰래 감시하며 피해자를 사칭하여 친구와 친척들에게 돈을 빌려달라고 요구할 기회를 기다렸습니다.

그들은 인공지능을 이용해 페이스북 계정 소유자의 얼굴과 목소리를 모방한 가짜 영상(딥페이크)을 만듭니다. 본인 확인을 위해 영상 통화를 요청받으면 통화에 동의하지만, 발각을 피하기 위해 재빨리 연결을 끊습니다.

Bkav의 안티멀웨어 연구센터 소속 응우옌 티엔 닷(Nguyen Tien Dat) 씨에 따르면, AI를 통해 사용자 데이터를 수집하고 분석하는 능력은 정교한 피싱 전략을 가능하게 합니다. 이는 딥페이크와 GPT를 결합한 피싱 시나리오의 복잡성이 증가하여 피싱을 식별하기가 더욱 어려워질 것임을 의미합니다.

Bkav는 사용자들에게 특히 주의를 기울여 개인 정보(신분증 번호, ​​은행 계좌 정보, OTP 코드 등)를 제공하지 말고, 사기성 웹사이트나 전화 등을 통해 낯선 사람에게 돈을 송금하지 말 것을 당부합니다.

소셜 미디어를 통해 대출/송금 요청을 받을 경우, 전화 통화나 다른 연락 채널을 통해 세부 정보를 확인하는 등 다른 검증 방법을 사용하는 것이 좋습니다.

출처: https://nld.com.vn/canh-bao-su-dung-ai-tao-hinh-anh-va-giong-noi-gia-mao-de-lua-tien-196240202191252818.htm