가짜 사진 콜라주, 진짜 위험

2023년 12월 9일 08:22

인공지능(AI) 기술은 점점 더 정교해지는 기만 기술을 통해 사회 공동체에 놀라운 위험을 초래하고 있습니다.

그 중에서도 최근 개발된 '딥페이크' 기술은 많은 사용자, 특히 여성을 끌어들여 미인 대회 우승자, 패션 모델의 이미지와 자신의 사진을 합성해 진짜처럼 보이게 하려고 하는데, 그 이면에는 예측할 수 없는 위험이 도사리고 있다는 사실을 모른 채 말이다.

최근 제 지인이 유명 여성 스타의 "노출 영상"이라는 캡션과 함께 영상 링크를 공유했습니다. 링크를 클릭했을 때, 사람들은 젊은 여배우가 섹시한 옷을 입고 남성과 "밀접한" 관계를 맺고 있는 모습을 보고 놀랐습니다. 한 기술 전문가는 이것은 진짜 영상이 아니라 "딥페이크" 기술을 이용해 타인의 이미지를 합성하는 기술 사기라고 말했습니다.

AI가 생성한 사용자 사진. 인터넷에서 가져온 사진

이 전문가는 또한 지난 10일 동안 소셜 네트워크에서 인물 사진을 인공지능 애플리케이션 소프트웨어에 전송하여 "아주 아름답고 사실적인" 사진을 얻는 트렌드가 있었다고 전했습니다. 많은 젊은이들이 이를 매우 좋아하며, 유명 배우나 모델처럼 더 아름다운 이미지를 결합할 수 있는 더 스마트한 소프트웨어를 서로 추천하기도 합니다. 일부 애플리케이션 소프트웨어는 사진을 비디오로 결합할 수도 있습니다. "하지만 이 게임의 숨겨진 위험을 예측할 수는 없습니다. 간단히 말해, 언젠가는 섹시하고 나체인 자신의 이미지를 보게 될 것입니다."라고 이 전문가는 경고했습니다.

정보를 추적해 보면, "딥페이크" 기술은 구글의 오픈소스 코드를 사용하는 머신러닝 플랫폼을 기반으로 개발되었음을 알 수 있습니다. "딥페이크"라는 용어는 "딥 러닝"과 "페이크"의 합성어로, 시뮬레이션을 만드는 법을 배우는 것을 의미합니다. 이 기술은 특정 사용자의 비디오와 인물 사진을 스캔한 후, 다른 비디오나 사진과 병합하여 사진이나 클립을 생성합니다. AI의 스마트 기능을 활용하여 눈, 입, 코와 같은 얼굴의 기본적인 식별 정보와 얼굴 움직임의 속도, 음성을 대체하여 거의 실제와 같은 복사본을 만들 수 있습니다. 이 과정에서 원본 이미지 데이터가 많을수록 AI 기능이 학습하여 실제 사람과 동일한 가짜 얼굴과 이미지를 만드는 것이 더 쉬워집니다.

기술의 급속한 발전으로 "딥페이크"는 사람들이 자신에게 어울리는 헤어스타일을 선택하도록 돕거나 특정 의상을 디자인하는 것처럼 생활 속 여러 영역으로 빠르게 확산되고 있습니다. 따라서 이 기술의 적용 목표는 매우 긍정적이며 많은 사용자들에게 호평을 받고 있습니다. 그러나 이면에는 범죄자들이 이를 악용할 수 있는 가능성이 있습니다.

따라서 온라인 사진 편집 소프트웨어에 자신의 사진이나 비디오를 제공하는 사용자는 누드 사진 편집, 성적 자극 등과 같은 값싼 오락의 희생자가 되기 쉽습니다. 사진을 편집하는 사람들은 단지 자신을 즐겁게 할 수 있지만, 그 가짜 이미지를 사용하여 다른 사람을 공격하고, 조롱하고, 명예를 훼손하거나 협박하고, 다른 사람의 명예를 훼손하고, 심지어 관련된 사람들의 관계를 혼란스럽게 하고 파괴할 수도 있습니다.

둘째, 범죄자들은 AI를 이용하여 가짜 캐릭터를 생성하고, 친척이나 친구에게 전화하여 돈을 빌리거나 악의적인 목적으로 정보를 훔치는 등 온라인 사기를 저지를 수 있습니다. 악당들은 심지어 사용자인 척하여 온라인 기술 애플리케이션에 로그인하고, 은행 카드를 통해 온라인에서 매매하며, 자산을 횡령할 수도 있습니다. 사기, 강탈, 테러 조직은 가짜 캐릭터가 포함된 가상 계정을 사용하여 악의적인 행위를 저지를 수 있습니다.

기술 커뮤니티는 reface, zao, avatarify, deepfakes web β, myheritage, wombo 등 "딥페이크" 기술을 사용하는 여러 인기 소프트웨어 및 웹사이트 도구를 임시 목록에 올렸지만, 기술의 급속한 발전으로 인해 이 목록은 더 길고 다양해질 수 있습니다. 따라서 사이버 보안 커뮤니티는 사용자들에게 딥페이크 기술을 이용한 사기에 매우 조심하고 신중하게 대응할 것을 경고하고 있습니다. 주의하지 않으면 언젠가 누군가가 은행에서 돈을 인출하거나… 온라인에 접속하여… 특정 문제에 대한 정치적 테러 발언을 하려고 자신을 사칭하고 있다는 사실을 깨닫게 될 것입니다.

온라인 사진을 자랑하고, 자신의 이미지를 흉내 내고, 기억에 남는 순간을 기록하는 데 열중하는 남녀노소라면 신중하게 다시 생각해 봐야 합니다. 사용자에게 절대적으로 무료이고 안전한 것은 없으며, 부주의한 행동은 나중에 매우 후회스러운 결과를 초래할 수 있기 때문입니다. 온라인 커뮤니티에는 "재미는 즐기되, 너무 즐기지는 마라"라는 말이 있는데, 이 경고를 강조하는 것이 적절할 것 같습니다!

투이 밧 니

원천