위험하지만 예방 가능

SGGP 2023년 3월 30일 07:19

딥페이크는 딥러닝과 가짜라는 개념을 합친 용어로, 인공지능(AI)을 기반으로 사람의 이미지를 합성하는 기술입니다. 딥페이크는 놀라울 정도로 사실적으로 영상 속에서 한 사람의 얼굴을 다른 사람의 얼굴에 합성할 수 있습니다.

유명 외국 배우 사칭 얼굴 이식 사례

딥페이크는 어떻게 '자체 학습'을 하는가?

구글의 오픈소스 머신러닝 플랫폼을 기반으로 AI를 사용하는 딥페이크는 사람의 비디오와 초상화를 스캔하여 다른 비디오와 병합한 다음 눈, 코, 입과 같은 얼굴 세부 정보를 가능한 한 유사하고 자연스러운 얼굴 움직임으로 바꿉니다. 이 알고리즘을 사용하면 원본 비디오와 이미지가 많을수록 AI가 더 정확하게 작업하고 가짜 비디오가 더 사실적으로 나올 수 있습니다. 딥페이크는 사람의 목소리를 녹음하여 컴퓨터가 그 사람과 똑같이 말하도록 훈련시키는 데에도 사용될 수 있습니다.

딥페이크 기술은 점점 더 발전하고 있습니다.

처음에 딥페이크 AI 애플리케이션은 사용자의 얼굴과 목소리를 유명 영화 속 캐릭터로 '바꾸기' 위해 만들어졌습니다. 이는 얼마 전 큰 인기를 끌었던 재밌는 사진과 더빙 클립을 만드는 트렌드의 다음 단계로 여겨진다.

딥페이크 소프트웨어를 제공하는 회사들은 자사 애플리케이션이 악의적인 의도로 만들어진 것이 아니며, 단순히 오락 목적으로 만들어졌다고 주장합니다. 하지만 이 기술은 더 나쁜 목적으로 사용되기 때문에, 최근 딥페이크라고 하면 사람들은 나쁜 도구를 떠올립니다.

세계경제포럼(WEF)에 따르면, 딥페이크 영상의 수는 연간 900%의 속도로 증가하고 있습니다. 최근 기술의 발전으로 생산이 더 쉬워졌습니다.

딥페이크에 의해 사칭당한 경우, 즉시 친구와 가족에게 알리고 베트남 정보 보안 경고 페이지(canhbao.ncsc.gov.vn)를 통해 당국에 신고해야 합니다. 사기 방지 프로젝트: chongluadao.vn. 사람들은 dauhieuluadao.com 웹사이트를 통해 사이버 사기에 대한 인식을 높이고 있습니다.

Ngo Minh Hieu - 국가 사이버 보안 모니터링 센터

딥페이크 식별 방법

딥페이크 애플리케이션의 컴퓨팅 능력이 아직 완벽하지 않기 때문에 딥페이크를 사용한 비디오는 크기가 작고, 재생 시간이 짧으며, 사운드와 이미지 품질이 낮은 경우가 많습니다.

딥페이크 영상 속 캐릭터의 몸은 일반 영상에 비해 덜 움직이며, 특히 옆으로, 얼굴을 위로 또는 아래로 향하게 하는 움직임이 적습니다. 또한 얼굴을 비비거나 가리는 동작, 눈을 깜빡이는 동작도 없는데, 얼굴이 부분적으로 가려져 있을 때 AI가 오류를 처리하는 경우가 많기 때문입니다.

AI가 만든 딥페이크 영상은 캐릭터의 두 눈에서 반사되는 빛이 고르지 않고, 얼굴에 부자연스러운 빛 그림자가 생기고, 얼굴의 많은 부분이 거의 변하지 않아 매우 부자연스러운 표정, 감정, 비현실적인 목소리 등의 약점이 있습니다.

영상 통화를 할 때 사용자는 통화자에게 손을 얼굴 위로 올리거나 얼굴을 좌우로 돌리라고 요청하여 제스처 감지 기능을 추가할 수 있습니다. 동시에 경계심을 높이기 위해 통화 상대와 자주 대화하여 통화가 실제인지, 미리 녹화된 영상 통화인지 확인하는 것이 필요합니다. 특히, 송금, 이상한 주소로의 정보 전송, 이상한 계좌 등에 관련된 정보에 주의를 기울여야 합니다.

부 응옥 손

베트남 국가 사이버 보안 기술 회사 최고 기술 책임자

원천: https://www.sggp.org.vn/nguy-hiem-nhung-co-the-phong-tranh-post683910.html