인공지능을 이용해 민감한 이미지를 조작하여 협박에 이용하는 행위.

Dùng AI ghép hình ảnh nhạy cảm để tống tiền - Ảnh 1. — 악의적인 행위자는 AI를 이용하여 민감한 이미지와 비디오를 조작하여 타인을 비방하거나 협박할 수 있습니다. - 사진: AI로 그린 그림.

이전에는 한 사람의 얼굴을 다른 사람의 몸에 합성하는 기술을 논할 때 포토샵이나 기타 전문 사진 편집 소프트웨어를 사용하는 경우가 많았는데, 이는 노동 집약적이었고 육안으로 쉽게 어색해 보였습니다.

이제 AI 도구를 사용하면 사람들이 "잠깐"이면 아주 쉽게 그렇게 할 수 있지만, 육안으로는 쉽게 감지하기 어렵습니다.

협박을 위해 성관계 영상 속 얼굴을 바꾸는 행위.

업무상 인맥 때문에 호치민시에 있는 사업체의 대표이사인 H씨는 소셜 미디어에서 활발하게 활동합니다.

어느 날 한 젊은 여성이 그의 일에 대해 묻기 위해 다가왔다. 얼마 동안 이야기를 나누고 직장과 개인적인 삶에 대한 이야기를 주고받으면서 두 사람은 꽤 가까워졌다.

두 사람 사이에는 애정 어린 말이 담긴 문자 메시지와 사진을 주고받는 것은 물론, 서로의 얼굴을 볼 수 있도록 영상 통화도 많이 했다.

어느 날, H씨는 자신을 그 여성의 남편이라고 주장하는 사람으로부터 전화를 받았습니다. "경고"를 한 후, "남편"은 H씨에게 보상금을 송금하지 않으면 두 사람의 채팅 기록과 성관계 동영상을 친척과 사업 파트너에게 보내겠다고 협박했습니다.

그 후 H씨는 그의 "남편"으로부터 그와 다른 여성이 함께 있는 성관계 동영상과 두 사람의 통화 녹음 파일, 그리고 은밀한 문자 메시지 스크린샷을 보게 되었습니다.

"저는 그 여자를 만난 적이 없으니, 성관계 동영상은 분명 편집된 겁니다."라고 H씨는 주장했습니다. 그러나 동영상 속 여성의 얼굴과 영상 통화 상대 여성의 얼굴이 동일했고, 주고받은 애정 어린 메시지 스크린샷까지 확보되면서, H씨는 자신의 명예를 지키기 위해 "남편"에게 여러 차례 돈을 송금할 수밖에 없었습니다.

투오이 트레(Tuoi Tre) 신문 의 조사에 따르면, H씨는 완벽하게 계획된 조직적인 사기의 피해자였습니다. 이 사기에서 H씨는 딥페이크 기술에 두 번 속았습니다. 첫 번째는 영상 통화였고, 두 번째는 성관계 동영상이었습니다.

특히, 해당 성관계 영상에서 H씨의 얼굴은 너무나 정교하게 합성되어 시청자들이 가짜 영상이라는 사실을 믿기 어려워했습니다. 한 AI 전문가는 투오이 트레(Tuổi Trẻ) 신문 에 범인이 얼굴을 영상에 완벽하게 합성할 수 있는 새로운 AI 도구를 사용했다고 확인해 주었으며, 이 도구 덕분에 영상이 놀라울 정도로 사실적으로 보였다고 밝혔습니다.

인공지능 얼굴 바꾸기 도구는 무수히 많습니다.

현재 인공지능 기반 도구들을 이용하면 원하는 얼굴을 가진 사람의 형상을 만들거나, 원하는 얼굴을 다른 사람의 몸에 합성하는 등의 기능을 사용할 수 있습니다.

이러한 도구들 중에는 일반 사진 속 인물의 옷을 벗겨 나체 사진으로 바꾸거나, 동영상 속 인물의 얼굴을 원하는 얼굴로 교체하는 등 악의적인 목적으로 사용되는 기능을 가진 도구들이 있습니다.

대부분의 AI 도구는 체험 기간을 제공하며, 유료 버전은 모든 기능을 제공하고 변환 속도가 매우 빠릅니다.

예를 들어, 다른 사람의 몸에 얼굴을 합성하는 기능의 경우, 사용자는 서로 일치하는 두 장의 사진을 업로드하고 몇 초만 기다리면 결과를 얻을 수 있습니다.

또는 일반 사진에서 누드 이미지를 생성하는 기능을 이용하면 AI 도구는 단 몇십 초 만에 매우 빠르게 이를 만들어내어 보는 사람들에게 충격을 줄 수 있습니다.

심지어 성인 동영상에서 얼굴을 교체하는 기능조차도 AI 도구를 사용하면 매우 빠르게 처리되어, 길이가 몇 초에 불과한 동영상의 경우 1분도 채 걸리지 않습니다.

투오이 트레(Tuổi Trẻ) 신문 과의 인터뷰에서 사이버 보안 회사 VNetwork의 연구 개발팀 책임자인 응우옌 킴 토(Nguyen Kim Tho) 씨는 인공지능(AI)을 이용해 실제처럼 보이도록 만든 가짜 영상과 이미지를 가리키는 "딥페이크"라는 용어를 분석했습니다.

딥페이크 기술은 신경망과 같은 딥러닝 모델을 사용하여 사람의 얼굴 및 음성 데이터를 분석하고 그 사람과 똑같이 생긴 가짜 콘텐츠를 생성합니다.

"강력한 알고리즘 덕분에 악의적인 행위자들은 피해자의 얼굴을 민감한 영상(예: 성관계 영상, 포르노)에 합성하거나 이미지를 편집하여 가짜 누드 사진을 만들 수 있습니다."

토 씨는 "딥페이크 소프트웨어와 애플리케이션은 모바일 앱, 오픈 소스 소프트웨어, 무료 온라인 서비스 등을 포함하여 인터넷에서 매우 흔해졌습니다. 따라서 누구나 쉽게 가짜 동영상과 사진을 만들 수 있는 도구에 접근할 수 있으므로 경각심을 가져야 합니다."라고 말했습니다.

'성적인 채팅'은 절대 하지 마세요.

많은 사기 수법은 온라인에서 친구를 사귀는 것으로 시작하여 피해자를 "성적인 채팅"이나 민감한 사진 전송으로 유인합니다. 따라서 사용자는 어떤 약속이나 협박에도 불구하고 온라인에서만 아는 사람에게 개인적인 사진이나 동영상을 절대 보내서는 안 됩니다.

공유하는 모든 콘텐츠(개인 메시지를 통한 공유 포함)는 기록(스크린샷, 동영상)되고 편집되어 불리하게 사용될 수 있다는 점을 항상 명심하십시오.

영상 통화를 할 때는 낯선 사람이 민감한 콘텐츠를 제안하는지 주의하세요. 가짜 화면일 수도 있고, 당신을 녹화하고 있을 수도 있습니다.

사이버 보안 전문가들은 온라인상의 상호작용만을 바탕으로 누군가를 절대적으로 신뢰해서는 안 되며, 민감한 정보를 공유하기 전에 상대방의 신원과 의도를 반드시 확인해야 한다고 조언합니다.

또한, 만약 "나체" 사진을 유포하겠다는 협박 메시지나 전화를 받더라도 두려워하거나 서둘러 돈을 송금할 필요가 없습니다.

전문가들에 따르면, 돈을 지불한다고 해서 가해자들이 영상을 삭제할 것이라는 보장은 없으며, 오히려 더 많은 돈을 요구하거나 영상을 온라인에 계속 업로드할 수도 있습니다.

범죄자의 요구에 응하는 대신, 사용자는 증거(메시지, 전화번호, 연락처, 협박 내용 등)를 수집하여 즉시 가까운 경찰서에 신고하거나 공안부 의 VNeID 애플리케이션을 통해 신고하여 신속한 지원을 받아야 합니다.

어떻게 그들을 식별할 수 있을까요?

응우옌 킴 토 씨에 따르면, 실제 이미지와 딥페이크 이미지 및 영상을 구분하는 것은 점점 더 어려워지고 있지만, 여전히 식별에 도움이 되는 몇 가지 단서와 도구가 있다고 합니다.

사용자는 딥페이크 콘텐츠에 시각적 및 청각적 이상 현상이 나타나는 경우가 있으므로 이를 수동으로 관찰할 수 있습니다.

예를 들어, 합성 이미지에서는 겹쳐진 얼굴과 몸 사이에 노이즈나 색상 불일치가 드러날 수 있습니다. 가짜 비디오에서는 오디오와 비디오가 일치하지 않거나(입 모양이 말과 맞지 않음) 얼굴 표정이 부자연스럽고 어색해 보일 수 있습니다.

이전에는 일부 딥페이크 영상에서 등장인물이 눈을 깜빡이지 않거나 얼굴의 조명과 그림자가 배경과 어울리지 않는 경우가 있었는데, 이는 영상이 편집되었다는 증거였습니다.

기술이 발전하고 있기는 하지만 (예를 들어, 새로운 딥페이크 기술은 실제와 같은 눈 깜빡임 움직임을 구현합니다), 예리한 시청자는 여전히 동영상과 사진에서 비논리적인 부분을 발견할 수 있습니다.

연구원들은 현재 딥페이크의 흔적을 자동으로 탐지하는 다양한 알고리즘을 개발하고 있습니다.

AI가 생성한 콘텐츠는 종종 기계가 인식할 수 있는 고유한 "디지털 지문"을 각 픽셀에 남깁니다.

예를 들어, 인텔은 비디오를 분석하여 영상 속 인물이 실제 사람인지 인공지능이 생성한 것인지 판별할 수 있는 최초의 실시간 딥페이크 탐지기를 선보였습니다.

또한, 일부 웹사이트에서는 사용자가 동영상과 사진을 업로드하여 진위 여부를 확인할 수 있습니다(예: Deepware, Sensity AI 등). 이러한 시스템은 새로운 딥페이크 기술에 맞춰 지속적으로 업데이트됩니다.

특히, 많은 딥페이크 영상이 소셜 미디어의 가짜 계정이나 봇을 통해 유포되기 때문에, 사용자는 민감한 영상이나 이미지를 접했을 때 출처와 맥락을 확인할 수 있습니다.

"특정 인물에 대한 민감한 내용이 비공식 출처나 익명 계정에서 나온 경우, 그 진위 여부를 의심해 봐야 합니다. 해당 내용에 등장하는 인물에게 직접 연락하여 실제로 그 사람이 작성했는지 확인하는 것이 좋습니다."

"더 나아가, 이와 같은 프로젝트는 이미지와 비디오 제작 초기 단계부터 인증 정보(디지털 서명)를 삽입하는 것을 장려하여 원본 콘텐츠와 편집된 콘텐츠를 구분하는 데 도움을 주고 있습니다. 앞으로 사용자들은 이러한 인증 표시를 통해 신뢰할 수 있는 콘텐츠를 식별할 수 있을 것입니다."라고 토 씨는 말했습니다.

자기 보호를 위한 5가지 팁

1. 민감하거나 사적인 사진 및 동영상(특히 나체 사진, 가족 사진, 어린이 사진) 공유를 자제하세요.

2. 소셜 미디어 계정을 비공개로 설정하세요(신뢰할 수 있는 사람과만 공유).

3. 공개 소셜 미디어에 너무 많은 개인 정보(성명, 전화번호, 주소 등)를 제공하지 마세요.

4. 해킹을 방지하기 위해 계정에 강력한 비밀번호를 설정하고 2단계 인증을 활성화하세요.

5. 정기적으로 구글에서 본인의 이름과 이미지를 검색하거나 (구글 이미지 검색 또는 틴아이와 같은 역이미지 검색 도구를 사용) 사진이 불법적으로 게시되었는지 확인하고, 게시된 사진이 있다면 즉시 삭제를 요청하세요.

덕

출처: https://tuoitre.vn/dung-ai-ghep-hinh-anh-nhay-cam-de-tong-tien-20250317075948373.htm