AI를 이용해 장애인 사칭해 이익을 취하는 새로운 사기에 주의하세요

이들은 인공지능(AI) 기술을 이용해 일반인의 얼굴과 몸을 편집하고 장애인으로 만든 후, 슬픈 이야기를 만들어 상품을 판매하거나 지원을 호소하는 악당들입니다. 이들의 유일한 목표는 불법적인 이익을 위한 커뮤니티의 동정심을 이용하는 것입니다.

불-다오.jpg — NL이라는 이름의 TikTok 채널에 AI 기술로 편집된 장애인 여성 이미지가 올라왔습니다.

정교한 트릭

대중의 분노를 불러일으킨 대표적인 사례는 NL이라는 TikTok 채널이었습니다. 이 채널은 두 팔이 절단된 여성이 어린 자녀들을 돕기 위해 온라인에서 제품을 판매하려 애쓰는 모습을 담은 일련의 영상을 게시했습니다. 영상 속 여성은 소박한 방에 소박한 옷을 입고 등장하여 절단된 팔을 이용해 제품을 소개하며 시청자들에게 감동과 공감을 불러일으켰습니다. 많은 사람들이 주저 없이 클릭해서 팔로우하고, 공유하고, 심지어는 이 어머니의 어려움을 극복할 수 있도록 제품을 주문하기도 했습니다. 그러나 영상이 급속도로 확산되자 온라인 커뮤니티는 이 영상이 AI 기술로 편집된 평범한 판매원의 모습이라는 사실을 알게 되었습니다.

동정심에 호소하는 속임수는 많은 사람들이 약하고 불우한 사람들을 돕고 있다고 믿기 때문에 기꺼이 돈을 보내거나 주문을 하게 만드는 함정이 되었습니다. 하노이 보더구 응옥럼 거리에 사는 당 민 꽝 씨는 이렇게 말했습니다. "어머니는 팔이 잘린 여성이 물건을 파는 영상을 보고 안타까워하셔서 그 사람이 파는 물건을 주문하셨습니다. 그런데 장애인이 AI가 만든 이미지에 불과하다는 사실을 알게 되자 어머니는 매우 슬퍼하시고 불쾌해하셨습니다."

Quang의 어머니 이야기는 특별한 일이 아닙니다. 수백 명의 다른 사람들도 비슷한 사기를 당했습니다. 친절이 이용당하면 사람들은 점차 신뢰를 잃고 진정한 도움의 손길을 내밀지 않게 됩니다. 그리고 그 고통스러운 결과는 취약 계층이 진정으로 심각한 상처를 입는다는 것입니다. Nguyen Sin은 자신의 페이스북에 "Nga Tic Cuc" 채널 운영자 Tran Thi Nga(36세, 푸토성 )의 사례를 공유했습니다. 그녀는 장애가 있으며(2024년 말 급성 심근염으로 인해 목숨을 구하기 위해 팔다리를 절단해야 했습니다), 많은 사람들에게 긍정적인 삶의 의지로 꾸준히 영감을 주는 것으로 알려져 있습니다. 그러나 AI를 이용해 장애인을 사칭하는 사례가 잇따라 발생하자, Nga 씨는 AI를 이용해 장애인을 사칭했다는 의심을 받았습니다.

최근 라이브 스트리밍에서 응아 씨는 일부 소셜 미디어 이용자들이 자신이 진정한 장애인임을 증명하기 위해 "손을 들어라"거나 "기어가라"고 반복적으로 요구하자 여러 번이나 화를 냈습니다. 이러한 불합리하고 잔인한 요구는 응아 씨에게 깊은 상처를 주었습니다. "액티브 응아" 씨의 이야기는 기술 남용이 얼마나 해로울 수 있는지를 보여주는 가슴 아픈 증거입니다.

AI가 생성하는 가짜 콘텐츠 인식 기술

공안부에 따르면, 2024년 베트남은 6,000건 이상의 온라인 사기 사건을 기록했으며, 이로 인한 손실액은 약 12조 VND에 달할 것으로 추산됩니다. 2025년 단 8개월 동안 약 1,500건의 온라인 사기 사건이 적발되었습니다. 이는 7,800만 명이 넘는 인터넷 사용자와 7,200만 명의 소셜 네트워크 사용자를 보유한 우리나라에서 첨단 범죄의 위험성을 여실히 보여주는 수치입니다. 사이버 공간은 점점 더 정교해지는 사기 수법의 온상이 되고 있으며, 특히 AI를 활용한 가짜 콘텐츠 제작은 오늘날 가장 큰 위협입니다.

이러한 우려스러운 현실에 직면하여 당국과 사이버 보안 전문가들은 사람들이 가짜 콘텐츠를 식별할 수 있는 지식과 기술을 갖추도록 권고합니다. 롱비엔구 경찰(하노이) 청년 연합의 응우옌 낫 하 부서기는 사람들이 공식 정보 출처를 정기적으로 모니터링하고, 기술 및 신종 사기 수법에 대한 지식을 적극적으로 업데이트해야 한다고 강조했습니다. 특히, 정보 출처를 신중하게 확인하고, 확인되지 않은 출처에 개인 정보를 제공하지 않으며, 이상한 링크에 접속하지 않고, 확인되지 않은 계좌로 자금을 이체하지 않는 등 기본 원칙을 항상 명심하고 경계해야 합니다.

사이버 보안 전문가들에 따르면, AI가 생성한 영상을 식별하려면 사용자는 이미지 세부 정보, 얼굴 움직임, 팔다리 또는 소리를 주의 깊게 살펴봐야 합니다. 멍한 눈, 부자연스러운 움직임, 말투 지연, 입술 움직임 불일치와 같은 징후는 딥페이크 기술의 징후인 경우가 많습니다.

채널에 게시된 정보를 확인하고, 댓글을 읽고, 활동 내역을 확인하는 것도 신뢰도를 평가하는 간단한 방법입니다. 이와 함께, 사용자는 믿기 전에 확인하는 습관을 들여야 합니다. 아무리 감동적인 영상이라도 성급하게 공유하거나 지지해서는 안 됩니다.

전문가들은 소셜 미디어 플랫폼에 검열을 강화하고, AI를 이용해 장애인을 사칭하는 콘텐츠를 적발하고, 위반 계정을 엄격하게 처리할 것을 촉구했습니다. 또한 당국은 AI 이미지 및 콘텐츠 사용에 대한 명확한 규정을 조속히 발표하여 기술이 악의적인 행위자들의 비윤리적 행위 도구로 전락하지 않도록 해야 합니다.

출처: https://hanoimoi.vn/dung-ai-gia-nguoi-khuet-tat-de-truc-loi-canh-giac-chieu-lua-moi-722565.html