위험하지만 예방 가능

[광고_1]

SGGP 2023년 3월 30일 07:19

딥페이크는 딥러닝과 페이크의 개념을 합친 용어로, 인공지능(AI) 기반 인물 이미지 합성 기술입니다. 딥페이크는 영상 속 한 사람의 얼굴을 다른 사람의 얼굴에 놀라울 정도로 사실적으로 합성할 수 있습니다.

유명 외국 배우 사칭 얼굴 이식 사례

딥페이크는 어떻게 '자체 학습'을 하는가?

구글의 오픈소스 머신러닝 플랫폼을 기반으로 구축된 딥페이크는 AI를 사용하여 인물의 비디오와 사진을 스캔하고, 이를 별도의 비디오와 병합한 후, 눈, 코, 입 등의 얼굴 세부 정보를 최대한 유사하고 자연스러운 얼굴 움직임으로 대체합니다. 이 알고리즘을 사용하면 원본 비디오와 이미지가 많을수록 AI의 정확도가 높아지고 가짜 비디오는 더욱 사실적으로 만들어집니다. 딥페이크는 또한 사람의 음성 녹음을 사용하여 컴퓨터가 그 사람과 똑같이 말하도록 훈련시킬 수 있습니다.

딥페이크 기술은 점점 더 발전하고 있습니다.

처음에는 사용자의 얼굴과 목소리를 유명 영화 속 캐릭터로 "바꾸기" 위해 딥페이크 AI 애플리케이션이 개발되었습니다. 이는 얼마 전 큰 인기를 끌었던 영상 클립에 사진을 합성하고 재미있는 목소리를 더빙하는 트렌드의 다음 단계로 여겨집니다.

딥페이크 소프트웨어를 제공하는 회사들은 자신들의 애플리케이션이 악의적인 의도를 가지고 만들어진 것이 아니라 단순히 오락용 애플리케이션이라고 주장합니다. 하지만 이 기술이 더 악의적인 목적으로 사용되기 때문에, 최근 딥페이크라고 하면 사람들은 악의적인 도구를 떠올립니다.

세계 경제 포럼(WEF)에 따르면 딥페이크 영상의 수는 매년 900%씩 증가하고 있습니다. 최근 기술 발전으로 딥페이크 영상 제작이 더욱 쉬워졌습니다.

딥페이크에 의해 사칭된 경우, 즉시 친구와 가족에게 알리고 베트남 정보 보안 경고 페이지(canhbao.ncsc.gov.vn)와 사기 방지 프로젝트(chongluadao.vn)를 통해 당국에 신고해야 합니다. 또한, dauhieuluadao.com 웹사이트를 통해 사이버 공간의 사기에 대한 경각심을 높여야 합니다.
Ngo Minh Hieu - 국가 사이버 보안 모니터링 센터

딥페이크 식별 방법

딥페이크 애플리케이션의 컴퓨팅 능력이 아직 완벽하지 않기 때문에 딥페이크를 사용한 비디오는 크기가 작고, 재생 시간이 짧으며, 사운드와 이미지 품질이 낮은 경우가 많습니다.

딥페이크 영상 속 캐릭터의 몸은 일반 영상에 비해 덜 움직이며, 특히 옆으로, 얼굴을 위로 또는 아래로 향하게 하는 움직임이 적습니다. 또한 얼굴을 비비거나 가리는 동작, 눈을 깜빡이는 동작도 없는데, 얼굴이 부분적으로 가려져 있을 때 AI가 오류를 처리하는 경우가 많기 때문입니다.

AI가 만든 딥페이크 영상은 캐릭터의 두 눈에서 반사되는 빛이 고르지 않고, 얼굴에 부자연스러운 빛 그림자가 생기고, 얼굴의 많은 부분이 거의 변하지 않아 매우 부자연스러운 표정, 감정, 비현실적인 목소리 등의 약점이 있습니다.

영상 통화 시, 사용자는 발신자에게 손을 얼굴로 올리거나 얼굴을 좌우로 돌리도록 요청하여 제스처 감지 기능을 추가할 수 있습니다. 동시에, 경계심을 높이기 위해 발신자와 자주 대화하여 통화가 실제 상황인지, 사전 녹화된 영상 통화인지 확인해야 합니다. 특히, 송금, 의심스러운 주소, 의심스러운 계좌로의 정보 전송 등에 주의를 기울여야 합니다.

부 응옥 손

베트남 국가 사이버 보안 기술 회사 최고 기술 책임자

[광고_2]
원천