카스퍼스키, 딥페이크 기술을 활용한 사기 식별 방법 공개

기술의 발전이 소셜 미디어와 대중 매체에 지속적으로 영향을 미치면서, 딥페이크 사기가 계속 늘어나면서 딥페이크가 주요 문제가 되고 있습니다.

딥페이크는 나쁜 목적으로 사용될 수 있습니다

사이버 범죄자들이 자주 활동하는 다크넷 포럼을 조사한 결과, 카스퍼스키는 사기 목적으로 딥페이크를 사용하는 범죄자가 많고, 현재 시중에 나와 있는 딥페이크 소프트웨어의 수요가 공급을 훨씬 초과하고 있다는 사실을 확인했습니다.

수요가 공급을 초과함에 따라, 카스퍼스키 전문가들은 딥페이크 사기가 더욱 다양하고 정교한 형태로 증가할 것으로 예측합니다. 전체 제작 서비스를 갖춘 고품질 사칭 영상 제공부터 유명인 이미지를 가짜 소셜 미디어 라이브 스트리밍에 사용하고 피해자가 보낸 금액의 두 배를 보내겠다고 약속하는 것까지.

"딥페이크는 여성과 사회에 악몽이 되었습니다. 사이버 범죄자들은 ​​이제 인공지능(AI)을 이용하여 피해자의 얼굴을 포르노 사진과 비디오, 그리고 선전 캠페인에 삽입하고 있습니다. 이러한 행위는 허위 정보를 유포하거나 심지어 조직이나 개인의 평판을 훼손하여 여론을 조작하는 것을 목표로 합니다. 우리는 대중이 이러한 위협에 더욱 경각심을 가져야 한다고 촉구합니다."라고 카스퍼스키 베트남의 컨트리 디렉터인 보 즈엉 투 디엠(Vo Duong Tu Diem) 씨는 말했습니다.

정보 참조 시스템인 Regula에 따르면, 전 세계 기업의 37%가 음성 딥페이크 사기를 경험했으며, 29%는 딥페이크 영상의 희생자가 됐습니다. 딥페이크는 베트남의 사이버 보안에 위협이 되고 있습니다. 사이버 범죄자들은 ​​종종 딥페이크 화상 통화를 이용해 다른 사람을 사칭하고 긴급한 상황에 대비해 가족이나 친구에게서 거액을 빌립니다. 게다가 딥페이크 영상 통화는 단 1분 만에 이루어질 수 있어 피해자가 진짜 통화와 가짜 통화를 구분하기 어렵습니다.

범죄자들이 악의적인 목적으로 AI를 악용하고 있지만, 개인과 기업은 여전히 ​​AI를 활용해 딥페이크를 식별하고 사기의 성공 가능성을 줄일 수 있습니다.

카스퍼스키는 사용자가 딥페이크 사기로부터 자신을 보호할 수 있는 솔루션을 공유합니다.

AI 콘텐츠 탐지 도구 : AI 기반 콘텐츠 탐지 소프트웨어는 고급 AI 알고리즘을 사용하여 이미지, 비디오, 오디오 파일의 조작 수준을 분석하고 판단합니다. 딥페이크 영상의 경우 일부 도구는 입 모양과 말투의 불일치를 감지하는 데 도움이 됩니다. 일부 도구는 심장이 혈액을 펌핑할 때 인체의 정맥 색상이 변하는 원리를 이용해 비디오의 해상도를 분석하여 피부 아래의 비정상적인 혈류를 감지합니다.

워터마크가 적용된 AI 콘텐츠 : 워터마크는 이미지, 비디오 등의 식별 표시 역할을 하여 저자가 AI 작품의 저작권을 보호하는 데 도움이 됩니다. 하지만 이 도구는 AI를 만든 플랫폼의 기원을 추적하는 데 도움이 될 수 있으므로 딥페이크에 대한 무기가 될 수 있습니다.

콘텐츠 출처 : AI는 다양한 소스에서 방대한 양의 데이터를 수집하여 새로운 콘텐츠를 생성하므로 이 접근 방식은 해당 콘텐츠의 출처를 추적하는 것을 목표로 합니다.

영상 인증 : 영상 콘텐츠가 처음 생성된 이후 변경되지 않았는지 확인하는 프로세스입니다. 이는 영상 제작자가 가장 걱정하는 과정입니다. 일부 새로운 기술은 암호화 알고리즘을 사용하여 설정된 간격으로 해시 값을 비디오에 삽입합니다. 비디오가 편집된 경우 해시 값이 변경됩니다.

소스 링크: https://thanhnien.vn/kaspersky-chia-se-cach-nhan-dien-lua-dao-bang-cong-nghe-deepfake-185231021110843811.htm