딥페이크, 2025년 첫 3개월간 2억 달러 이상 피해 발생, 누구나 피해자 될 수 있어

Resemble AI의 충격적인 발표에 따르면, 2025년 첫 3개월 동안 딥페이크 사기로 인해 전 세계적으로 2억 달러 이상의 손실이 발생했다고 합니다.

딥페이크 기술을 이용해 만든 우크라이나 볼로디미르 젤렌스키 대통령 연설 가짜 영상 - 사진: AFP

Variety는 Resemble AI의 2025년 1분기 보고서에 따르면 딥페이크로 인한 피해액이 2억 달러를 넘어섰다고 보도했습니다. 피해액은 주로 금융 사기, 정치적 조작, 강탈, AI가 이익을 위해 만든 민감한 콘텐츠의 유포 등으로 인한 것입니다.

보고서는 이를 일반 사용자의 감지 능력을 넘어서는 점점 더 정교해지는 공격으로 인한 "점점 심각해지는 위기"로 설명합니다.

딥페이크의 피해자는 누구인가요?

처음에는 딥페이크가 기술을 활용한 엔터테인먼트 게임으로 등장했습니다. 하지만 불과 몇 년 만에 이 기술은 국경을 넘는 사기 활동에 강력한 도구가 되었습니다.

Resemble AI에 따르면, 딥페이크는 현재 주로 비디오(46%)에서 사용되고 있으며, 그 다음으로 이미지(32%)와 오디오(22%)에서 사용됩니다.

걱정스러운 점은, 불과 3~5초 분량의 오디오 녹음만으로도 악당들이 가족, 파트너, 심지어 자동 확인 시스템까지 속일 만큼 강력한 가짜 목소리를 만들어낼 수 있다는 것입니다.

세계 에서 이런 상황이 가장 복잡한 나라 중 하나가 바로 한국인데, 아이돌과 음란물을 연결해서 판매하는 채팅방이 넘쳐난다 - 사진: X

그뿐만 아니라, 현재 딥페이크 제품의 68%는 "실제 콘텐츠와 거의 구별할 수 없음"으로 평가돼 기술 전문가라도 이를 감지하기가 극히 어렵습니다.

동기화된 영상에서 이미지와 사운드가 결합되어 사칭이 너무나 사실적으로 표현되어 실제 사람들은 자신이 착취당하고 있다는 것을 알아차리기 어렵습니다.

보고서에 따르면 피해자의 41%는 주로 정치인과 유명인사 등 공인이었지만 나머지 34%는 일반 시민이었습니다.

딥페이크로 인한 위험은 더 이상 유명인에게만 국한되지 않고 사회의 모든 계층으로 확산되었습니다. 금융기관, 기업, 정부기관 등도 대상에서 제외되지 않습니다.

북미에서 발생한 사건은 전체의 38%를 차지했으며, 그 대부분은 정치인이 연루된 사건이었습니다. 아시아는 27%를 차지하고, 유럽은 21%를 차지합니다.

공격의 63%는 국경을 넘는 요소로 인해 딥페이크가 국내 문제가 아니라 전 세계적인 위협이 되었다는 사실이 입증되었습니다.

전 세계적으로 사기가 더욱 정교해지고 있습니다.

딥페이크 사기 중에서도 민감한 내용을 담은 게시물이 가장 흔한 형태로, 피해자의 명예와 정신에 심각한 피해를 입힙니다.

다음은 상사를 사칭하여 송금을 요청하거나, 긴급한 도움이 필요한 친척인 척하거나, 심지어 가짜 신원을 확인하기 위해 화상 통화를 하는 등의 금융 사기입니다.

한편, 안티 딥페이크 애플리케이션도 점점 더 강력하게 개발되고 있으며, 사진은 1,600만 달러 이상을 성공적으로 모금한 Loti AI입니다. - 사진: Variety

딥페이크에 의해 큰 타격을 입은 또 다른 분야는 정치 분야로, 여론을 혼란스럽게 하거나 선거 기간에 정보를 조작하기 위해 지도자들의 영상이 편집되고 있습니다.

게다가 이 기술은 가짜 뉴스와 잘못된 정보를 증폭시켜, 그럴듯한 겉모습으로 인해 콘텐츠의 확산을 가속화합니다.

Resemble AI 대표는 발표에서 "딥페이크와의 싸움에는 다층적이고 글로벌한 대응이 필요합니다."라고 강조했습니다.

특히, 기술적 솔루션이 주도권을 잡아야 합니다. 여기에는 보다 효과적인 딥페이크 탐지 시스템 개발, 워터마크를 활용한 콘텐츠 인증 프로토콜 표준화, 추적 가능한 디지털 검증 메커니즘 등이 포함됩니다.

보고서는 또한 정부가 통일된 법적 틀을 구축하고, 유해한 딥페이크를 명확히 정의하고, 이를 호스팅하는 플랫폼에 책임을 묻고, 효과적인 제재를 수립하기 위한 노력을 강화할 것을 촉구했습니다.

특히 디지털 리터러시와 미디어 교육을 통해 대중의 인식을 높이는 것도 더 나은 대중 보호를 위한 핵심으로 여겨진다.

베트남에서는 수법이 그렇게 정교하지는 않지만, 이 함정에 빠진 피해자가 셀 수 없이 많습니다. 사이버 보안 및 첨단 범죄 예방 부서는 지속적으로 경고했습니다. - 사진: PA05

베트남에서도 딥페이크를 이용한 사기가 상당히 증가하는 조짐을 보이고 있으며, 온라인 커뮤니티에서 혼란을 야기하는 상황이 많습니다.

일부 피해자들은 가족과 똑같은 목소리와 말투로 영상 통화를 했다는 사실도 알게 되었고, 아무런 의심도 하지 않았다고 말했습니다.

사기꾼은 신뢰를 얻으면 계속해서 돈 이체, 인증 코드 제공, 은행 계좌 대출 등 "긴급 도움"을 요청합니다.

이러한 상황에 대해 기술 전문가들은 딥페이크가 매우 위험한 사기 무기가 되어가고 있으며, 베트남은 사용자를 보호하기 위한 법적 틀을 조만간 표준화해야 한다고 경고합니다.

더 읽기주제 페이지로 돌아가기

투 쿠옹

출처: https://tuoitre.vn/deepfake-gay-thiet-hai-hon-200-trieu-usd-3-thang-dau-nam-2025-ai-cung-co-the-la-nan-nhan-20250419185910057.htm