AI를 이용해 피해자의 얼굴을 이식해 위협하고 협박하는 악당을 조심하세요.

이전에는 딥페이크 영상을 만드는 데 필요한 인공 도구에 대한 접근성이 매우 제한적이었지만, Grok, ChatGPT, Meta AI, Gemeni, DeepSeek 등 많은 AI 도구가 널리 출시되어 이미지 생성을 포함한 기본 기능을 무료로 사용할 수 있게 되었습니다. 사용자는 전문적인 처리 기술을 이해하지 않고도 원하는 모양을 만들거나 잘라내어 편집할 수 있습니다. 이로 인해 엔터테인먼트부터 인터넷상의 위협까지 다양한 목적으로 얼굴을 만드는 데 AI를 사용하는 사례가 늘어났습니다.

YN 씨(호치민시 1군)는 한때 사람들을 위협하기 위해 AI 기반 이미지 조작의 희생자가 되었으며, "민감한" 데이터를 복구하려면 많은 돈을 내야 했다고 말했습니다. 모든 데이터가 AI 도구로 생성되었음에도 불구하고 말입니다. 구체적으로, 범죄자들은 ​​그녀의 개인 이미지를 수집하고 얼굴을 편집하여 나쁜 내용으로 만들고, 민감한 채팅을 만든 다음, YN 씨를 찾아 협박했습니다.

범죄자들은 ​​AI를 이용해 피해자를 편집하고, 자르고, 협박합니다.

피해자는 "그들은 가짜 채팅, 이미지, 동영상의 스크린샷을 보여주더니 삭제 대가로 1억 동(VND)을 요구했습니다. 합성된 이미지는 진짜인지 가짜인지 구분하기 어려울 정도였습니다."라고 말하며, 관련 행위를 당국에 신고했다고 덧붙였습니다.

YN 씨의 사례는 AI와 이미지 편집 도구를 악의적인 목적으로 악용한 최근의 여러 사건 중 하나일 뿐입니다. 현재 베트남의 소셜 네트워크 이용자들은 정보 보안 분야 전문가들이 이 문제에 대해 많은 경고를 했음에도 불구하고 여전히 개인 이미지, 친구, 친척의 사진을 온라인과 공개적으로 공유하는 데 매우 "태만"한 태도를 보이고 있습니다.

최근 공안부는 인터넷에 공개적으로 게시된 사람들의 사진과 영상을 이용해 편집, 편집, 합성하여 민감한 내용을 만든 뒤 위협과 협박 목적으로 사용하는 범죄자들이 늘어나고 있다며 휴대전화 사용자들에게 경고했습니다. "위와 같은 내용이 담긴 메시지나 전화를 받을 경우 경계하고, 협박을 받을 경우 송금하지 않도록 당부드립니다. 사기 또는 재산 갈취 징후를 발견하면 즉시 가까운 경찰서에 신고하고 VNeID 앱을 통해 신고해 주시기 바랍니다."라고 공지문에 명시되어 있습니다.

범죄자는 협박 목적 외에도 피해자의 공개된 개인 사진과 영상을 많이 사용하여 가짜 콘텐츠를 만들어 직장 내 명예를 훼손하고, 개인적인 복수를 하거나 정신과 명예를 훼손할 수도 있습니다. 특히, 이러한 위조 문서는 점점 더 정교해지고 있으며 일반인과 인공지능 분야에 관심이 있는 사람 모두가 구별하기 어려워지고 있습니다.

판매 지원을 위한 AI 챗봇 개발을 전문으로 하는 폴란드 회사인 티디오가 작년 말에 실시한 연구에 따르면, 대부분의 인터넷 사용자는 AI가 만든 이미지를 구별하는 데 어려움을 겪고 있는 것으로 나타났습니다. 이 회사는 참가자 중 최대 87%가 AI 사진과 실제 사람 사진을 혼동했다고 주장합니다. 또한 응답자의 62%는 AI와 머신러닝에 관심을 표명했지만, 이 그룹 중 절반은 인공지능이 생성한 이미지를 올바르게 식별하지 못했습니다.

현재 사이버 범죄에 AI를 활용하는 것에 대한 구체적인 규정은 없지만, 타인의 이미지를 사용하여 위협, 협박 또는 허위 정보를 퍼뜨리는 행위는 타인을 모욕하는 범죄, 재물 갈취 또는 음란 문화 산물 유포 범죄와 관련된 조항에 따라 여전히 처리될 수 있습니다.

이러한 상황에 직면하여 전문가들은 사용자들이 소셜 네트워크에서 개인 이미지를 공유할 때 주의해야 하며, 보안 도구를 사용하여 개인 정보를 관리해야 한다고 권고합니다.

출처: https://thanhnien.vn/canh-giac-ke-xau-loi-dung-ai-ghep-mat-nan-nhan-de-de-doa-tong-tien-185241107153341681.htm