이제 모든 사용자가 "디지털 방패"가 되어 모든 클릭과 공유에 대해 경계하고 책임을 져야 할 때입니다.
AI의 이점과 한계
인공지능은 오늘날 그 어느 때보다 우리 삶에 가까이 다가왔습니다. 몇 번의 클릭만으로 짧은 명령만으로 놀라울 정도로 사실적인 음성, 이미지, 심지어 비디오 까지 제작할 수 있습니다. AI는 시간을 절약하고 콘텐츠 제작 비용을 절감하며 유연한 디지털 미디어 시대를 열어줍니다.
하지만 "현실적으로 시뮬레이션"하는 능력은 양날의 검이 되었습니다. 최근 소셜 네트워크에는 딥페이크 기술로 제작된 영상들이 끊임없이 등장하고 있는데, 경찰 지휘관의 얼굴, 민감한 사건에 연루된 경찰의 이미지 등을 오려 붙이고, 더빙하고, 왜곡하여 오해와 분열을 조장하는 영상들이 있습니다.
이런 연출된 이미지가 소셜 미디어에 점점 더 많이 등장하고 있습니다.
틱톡에서 유포된 한 영상에서, 근무 중인 교통 경찰관의 모습과 함께 모욕적인 대사가 함께 등장했고, 경찰관이 사익을 위해 권력을 남용하고 있다는 암시를 담은 "벌금(fine for show)"이라는 해시태그가 달렸습니다. 많은 사용자, 특히 젊은 사용자들은 이미지가 너무 사실적이고 목소리가 입 모양과 너무 비슷해서 진짜와 가짜를 구분하기가 매우 어려웠기 때문에 이 내용을 쉽게 믿었습니다.
디엔비엔 의 한 젊은 유튜버는 AI 기술 활용 능력을 "과시"하려 했다는 이유만으로 행정 벌금을 부과받고 공개 사과를 강요받는 대가를 치러야 했습니다. 1월 24일 오후, 디엔비엔성 경찰은 사이버 보안 및 첨단기술 범죄 예방국이 AI를 사용하여 왜곡된 내용의 가짜 영상을 제작하고 교통경찰을 모욕한 통 반 티(2001년생, 므엉앙 군 거주)에게 750만 동(약 1,000원)의 행정 벌금을 부과했다고 발표했습니다.
구체적으로, T는 1월 7일 유튜브 계정 "Tuyền Vlog"에 3분 이상의 충격적인 제목의 영상을 업로드했습니다. "놀다가 교통경찰에게 쫓겼다"라는 제목의 영상입니다. 영상에는 AI 기술을 활용하여 교통경찰이 사람들을 쫓는 모습을 연출한 이미지와 상황들이 담겨 있었고, 당국을 공격하고 비방하는 효과와 댓글들이 포함되어 있었습니다.
경찰과 협력하여 T.는 해당 영상의 전체 내용이 "오락"을 목적으로 하고 AI 기술 활용 능력을 보여주기 위한 가짜 영상임을 인정했습니다. 당국은 벌금 부과와 더불어, T.에게 위 가짜 영상을 삭제하고 개인 유튜브 채널을 통해 교통경찰에 공개적으로 사과할 것을 요구했습니다.
디지털 기술 폭발 시대, 특히 인공지능의 급속한 발전 속에서 적대적이고 반동적인 세력은 베트남 공안군의 이미지를 왜곡하고 훼손하기 위해 허위 이미지와 이야기를 만들어내는 데 주저하지 않았습니다. 최근 소셜 네트워크에 유포된 사진에서 경찰복을 입은 임산부가 "갱스터"로 보이는 두 남자에게 위협을 받고 있는 모습은 이러한 수법을 여실히 보여줍니다.
AI가 생성한 사진은 최근 소셜 미디어에서 큰 인기를 끌었습니다.
언뜻 보기에 시청자들은 이 장면을 실제 장면으로 착각할 수 있습니다. "불쌍한 소년이 갱단에게 구타당하는 임산부를 구하고, 예상치 못하게 온 나라를 충격에 빠뜨린 사건을 개시한다..."와 같은 선정적인 제목이 붙어 있기 때문입니다. 하지만 이는 사실 영화나 엔터테인먼트 제품의 연출된 장면일 뿐이며, 더 심한 경우에는 AI가 독자의 감정을 속여 법 집행의 진실성에 대한 연민과 의심을 불러일으키기 위해 만들어낸 이미지일 수 있습니다.
더욱 우려스러운 것은, 이러한 내용의 유포가 밤낮으로 사회의 안전과 질서를 수호하는 인민공안군의 명예와 이미지를 손상시킬 뿐만 아니라, 정교한 심리전의 한 형태라는 점입니다. 허위 이미지로 인해 당국에 대한 국민의 신뢰가 훼손될 때, 위대한 국민통합 진영을 분열시키려는 적대 세력의 깊은 의도는 점차 실현될 것입니다.
따라서 모든 국민은 경계심을 높이고, 비판적 사고와 위조 정보를 식별할 수 있는 능력을 갖추어야 하며, 거짓 내용을 단호히 규탄하고 반박하여 사이버 공간에서 급속도로 확산되는 유해 정보로부터 사상 기반을 보호하고 사회 안정을 유지하는 데 기여해야 합니다.
호찌민시에서 약 1분 분량의 영상이 소셜 미디어에 급속도로 퍼졌습니다. 경찰복을 입은 한 남성이 사무실에서 위반자에게 "자백을 강요"하는 장면이 담긴 영상이었습니다. 영상 속 경찰관으로 추정되는 남성은 거친 태도를 보이며 끊임없이 고함치고 꾸짖으며 심지어 무례한 언사를 퍼부어 대중의 공분을 샀습니다.
하지만 영상이 입소문을 타자마자 호찌민시 경찰은 신속하게 조사하여 이것이 정교한 딥페이크 영상임을 확인했습니다. 결론에 따르면, 영상 속 얼굴은 경찰 내부 회의 녹화 영상에서 추출된 후, 악당들이 AI 기술을 사용하여 연출된 장면에 삽입하여 시청자들이 실제 사건으로 착각하게 만든 것입니다.
특히, 첨부된 오디오에는 실제 경찰관의 말이 아닌 위협적이고 모욕적인 목소리가 포함되어 있는데, 이는 시청자의 감정을 속이도록 프로그래밍되고 편집된 합성 AI 음성입니다.
이 사건은 딥페이크 기술을 이용하여 중국 인민공안군을 왜곡하고 비방하는 전형적인 사례로, 사이버 공간에서 반동적이고 반정부적인 세력이 점점 더 악용하고 있는 수법입니다. 이러한 가짜 콘텐츠는 신속하게 적발되지 않을 경우 심각한 결과를 초래할 수 있습니다. 법 집행 기관에 대한 국민의 신뢰를 떨어뜨리고, 지역 사회의 저항을 조장하며, 허위 주장이 확산될 수 있는 여건을 조성하는 것입니다. 이는 언론이 가짜 뉴스를 반박하고, 적발하고, 대응하는 역량을 강화해야 할 시급성을 분명히 보여주는 동시에, 모든 시민이 공식 출처의 검증되지 않은 콘텐츠를 성급하게 공유하거나 댓글을 달지 않도록 경계해야 함을 촉구합니다.
최근 남부 차량 검사소의 위반 처리와 관련된 또 다른 사례에서, 적대적인 세력이 한 지방 경찰 간부가 "잘못된 경찰관들을 옹호하는" 발언을 하는 가짜 영상을 유포했습니다. 이 영상은 "강력한 세력의 지원을 받고 있다"는 제목으로 텔레그램과 소셜 미디어에 유포되었지만, 실제로는 AI가 만들어낸 것으로, 어떤 기자회견이나 공식 문서에도 전혀 등장하지 않았습니다.
사이버 공간에 위험한 추세가 조용히 확산되고 있습니다. 바로 악당들이 AI 기술을 이용해 사기와 협박 목적으로 가짜 영상을 제작하는 것입니다. 최근 들어 변호사, 의사, 사업가 등 유명 인사들의 사진이 "온라인 사기로 돈을 뜯어내는" 광고 영상으로 편집되어 많은 사람들이 피해를 보고 있습니다.
이 영상에서는 AI가 변호사의 목소리와 얼굴을 모방하여 시청자들이 변호사를 믿게 만들고, 이를 통해 사기꾼에게 개인 정보를 제공하거나 돈을 송금하는 등의 수법을 사용합니다. 더욱 위험한 것은, 일부 피의자들이 딥페이크 기술을 사용하여 피해자의 얼굴을 성관계 영상에 합성한 후 배우자나 동료에게 전송하여 "사건의 비밀 유지"를 위해 돈을 송금하도록 협박하고 강요하는 것입니다.
2025년 3월, 하노이의 한 피해자가 자신의 모습이 담긴 가짜 성관계 영상을 받은 후 수천만 동(VND)을 송금하라는 협박을 받은 충격적인 사건이 발생했습니다. 한편, 호찌민시에서는 또 다른 피해자가 민감한 영상이 유포되는 것을 원치 않으면 최대 20억 동(VND)을 지불하라는 협박을 받았습니다. 공안부가 개입하여 중국과 동남아시아를 중심으로 활동하는 여러 국제 범죄 조직이 이러한 배후에서 불법 SIM 카드, 전자 지갑, 소셜 네트워킹 플랫폼을 이용하여 신원을 숨기고 있다는 사실을 적발했습니다.
이는 더 이상 소규모 사기가 아니라, 명예와 사회적 관계에 대한 두려움을 깊숙이 악용하여 피해자에게 압력을 가하는 "첨단 심리전"의 한 형태입니다. 경계심을 높이고 정보 식별 능력과 이상 행동을 개선하지 않으면 누구든 첨단 기술을 이용하는 범죄자들의 "먹잇감"이 될 수 있습니다. 이처럼 교묘한 위조의 물결에 맞서 모든 시민은 경각심을 가져야 하며, 개인 정보를 무차별적으로 공유해서는 안 되며, 불법 행위를 고발할 준비를 하고 자신과 공동체의 안전을 보호하는 데 기여해야 합니다.
딥페이크의 위협에 맞서기 위해서는 지역 사회 기반의 "디지털 방패"가 필요합니다.
라디오, 텔레비전 및 전자정보부(문화, 스포츠 및 관광부)에 따르면, 2024년 베트남의 디지털 플랫폼은 딥페이크, 음성 복제 등 AI 기술로 만든 제품 등 거짓되고 왜곡된 정보가 담긴 4,000개 이상의 동영상을 삭제해야 했습니다. 젊은이들에게 인기 있는 플랫폼인 TikTok만 해도 주로 경찰, 정부 및 사회 정책과 관련된 딥페이크 클립 1,300개 이상을 삭제하라는 요청을 받았습니다.
기술 폭발 시대에 인공지능은 획기적인 잠재력을 열어주고 있지만, 특히 왜곡된 콘텐츠를 포함한 딥페이크(deepfake) 제품은 공공 기관의 평판을 손상시킬 수 있어 전례 없는 위험을 초래합니다. MICRI 미디어 연구소의 조사에 따르면 베트남 소셜 미디어 사용자의 62%는 주류 언론이나 당국의 경고 없이는 진짜와 가짜를 구분할 수 없다고 합니다. 이는 악의적인 세력이 허위 정보를 유포하기 위해 철저히 악용하는 "인지적 격차"로, 사회 심리를 교란하고 있습니다.
경찰서에 있는 통 반 티.
범죄학 전문가이자 소장 겸 부교수인 도 칸 틴 박사에 따르면, AI를 이용하여 지도자들의 가짜 영상을 제작하고, 허위 진술을 편집하거나, 경찰의 업무 수행을 왜곡하는 것은 새롭지만 특히 위험한 수법입니다. "딥페이크는 단순한 오락물이 아니라 현대 정보전의 한 형태로, 신뢰를 파괴하고 사회 불안정을 야기할 수 있으며 통제하기가 매우 어렵습니다."라고 도 칸 틴 소장은 말했습니다.
실제로 AI가 조작한 영상은 무해한 것이 아니라, 위법 행위 처리, 범죄 수사, 부패 척결 등 민감한 주제를 다루는 경우가 많아 사람들이 법 집행에 대해 혼란스러워하고 의심하게 만듭니다. 더욱 우려스러운 것은, 많은 영상이 유튜브나 틱톡 등 주요 플랫폼에 공유되어 수십만 조회수를 기록한 후 삭제되면서 부정적인 바이럴 효과를 낳고 있다는 것입니다.
디지털 미디어 전문가 호앙 민은 이렇게 경고합니다. "조심하지 않고 단 한 번의 공유나 '좋아요'만으로도 가짜 뉴스를 퍼뜨리는 주범이 될 수 있습니다. 모든 인터넷 사용자는 디지털 공간에서의 행동이 실질적인 결과를 초래한다는 사실을 알아야 합니다."
이러한 맥락에서 그 어느 때보다 필요한 것은 공동체 자체로부터 "디지털 방패"를 구축하는 것입니다. 즉, 경계, 정보 면역, 그리고 네트워크 환경에 대한 책임감을 갖춰야 합니다. 기술은 중립적일 수 있지만, 사람들이 이를 어떻게 활용하느냐에 따라 AI가 발전의 원동력이 될지, 아니면 사회적 신뢰를 파괴하는 힘이 될지가 결정됩니다. 이념적 전선을 유지하고 인민공안병의 이미지를 보호하는 것은 국가 안보의 근간을 지키는 것이며, 이는 기능 부문뿐 아니라 디지털 시대의 모든 시민의 과제입니다.
출처: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html
댓글 (0)