인공지능의 이중성

인공지능(AI)은 많은 기회를 열어주지만, 경찰과 정부의 이미지를 왜곡하고 여론을 선동하는 딥페이크 영상을 제작하는 데 악용될 경우 위험한 도구로 변모하기도 합니다. 정교하게 편집된 이러한 영상들은 공권력에 대한 신뢰를 무너뜨릴 뿐만 아니라 사이버 공간에서의 정교한 심리전의 한 형태로 작용합니다.

이제 모든 사용자가 "디지털 방패"가 되어, 클릭하고 공유할 때마다 경각심을 갖고 책임감 있게 행동해야 할 때입니다.

인공지능의 장점과 미묘한 경계선

인공지능이 우리 일상생활에 이토록 가까워진 적은 없었습니다. 단 몇 번의 클릭과 간단한 명령만으로 놀라운 현실감을 자랑하는 음성, 이미지, 심지어 동영상 까지 만들어낼 수 있습니다. 인공지능은 시간을 절약하고 콘텐츠 제작 비용을 절감하며, 유연한 디지털 미디어 시대를 열어줍니다.

하지만 이러한 "현실을 사실적으로 모방하는" 능력은 양날의 검이 되었습니다. 최근 소셜 미디어에는 딥페이크 기술을 이용해 제작된 영상들이 넘쳐나고 있는데, 이 영상들에서는 경찰 간부들의 얼굴이나 민감한 사건에 연루된 경찰관들의 이미지가 조작되고 왜곡되었으며, 음성 해설까지 더해져 대중을 오도하고 분열시키고 있습니다.

이와 같은 연출된 이미지들이 소셜 미디어에서 점점 더 흔해지고 있습니다.

틱톡에서 화제가 된 한 영상에서, 근무 중인 교통경찰관의 모습과 모욕적인 대사가 함께 등장했고, "벌금은 보여주기식일 뿐"이라는 해시태그가 붙어 경찰관이 권력을 남용하여 사익을 취했다는 뉘앙스를 풍겼습니다. 특히 젊은 층을 중심으로 많은 사용자들이 이 영상을 쉽게 믿었는데, 영상이 매우 사실적이고 목소리도 입 모양과 거의 일치하여 진짜와 가짜를 구분하기 어려웠기 때문입니다.

디엔비엔 에 사는 한 젊은 유튜버가 인공지능 기술을 "과시"하려다 행정 벌금형과 강제 공개 사과라는 대가를 치렀습니다. 1월 24일 오후, 디엔비엔성 경찰청은 사이버보안 및 첨단범죄예방부가 교통경찰에 대한 왜곡되고 모욕적인 내용을 담은 조작 영상을 인공지능을 이용해 제작한 통 반 티(2001년생, 무옹앙 지역 거주)에게 750만 동(약 1,100억 원)의 행정 벌금을 부과했다고 발표했습니다.

구체적으로, T는 1월 7일 자신의 유튜브 계정 "Tuyen Vlog"에 "외출 중 교통경찰에게 쫓겼어요"라는 충격적인 제목의 3분 이상 길이의 영상을 업로드했습니다. 해당 영상은 인공지능 기술을 이용해 교통경찰이 시민을 추격하는 상황을 연출한 것으로, 경찰을 비방하고 모욕하는 효과와 해설이 포함되어 있습니다.

경찰 조사 과정에서 T.는 해당 영상의 모든 내용이 "오락" 목적으로, 그리고 자신이 인공지능 기술을 활용하는 능력을 보여주기 위해 조작한 것이라고 인정했습니다. 당국은 T.에게 벌금형과 함께 허위 영상을 삭제하고 자신의 유튜브 채널에 교통경찰에 공개적으로 사과할 것을 명령했습니다.

디지털 혁명 시대, 특히 인공지능의 급속한 발전 속에서 적대적이고 반동적인 세력은 이러한 도구를 거리낌 없이 이용하여 베트남 인민경찰의 이미지를 왜곡하고 훼손하려는 조작된 이미지와 이야기를 만들어내고 있습니다. 최근 소셜 미디어에 유포된, 경찰 제복을 입은 임산부가 깡패처럼 보이는 두 남성에게 위협받는 사진은 이러한 수법의 명백한 증거입니다.

인공지능을 이용해 제작된 이 이미지가 최근 소셜 미디어에서 큰 화제를 모으고 있습니다.

언뜻 보면 시청자들은 "가난한 소년이 갱단에게 공격당하는 임산부 여경을 구해내면서 전국을 충격에 빠뜨릴 사건을 우연히 밝혀냈다…"와 같은 자극적인 제목과 함께 실제 상황으로 착각할 수 있습니다. 그러나 이는 사실 영화나 엔터테인먼트 콘텐츠의 연출된 장면이거나, 더 나쁘게는 독자의 감정을 속여 동정심을 유발하고 법 집행의 진정성을 의심하게 만들려는 인공지능(AI)이 만들어낸 이미지일 가능성이 높습니다.

더욱 우려스러운 점은 이러한 콘텐츠의 확산이 사회의 안전과 질서를 지키기 위해 밤낮으로 애쓰는 인민경찰의 평판과 이미지를 훼손할 뿐만 아니라, 정교한 심리전의 한 형태라는 것입니다. 허위 이미지로 인해 국민의 공권력에 대한 신뢰가 무너지면, 국가 통합을 분열시키려는 적대 세력의 숨겨진 의도가 점차 실현될 것입니다.

그러므로 모든 시민은 경각심을 높이고 비판적 사고 능력과 허위 정보를 식별하는 능력을 함양하여, 허위 정보를 단호히 규탄하고 반박함으로써 인터넷상의 유해 정보 확산에 맞서 사상적 기반을 수호하고 사회 안정을 유지하는 데 기여해야 합니다.

호치민시에서 경찰 제복을 입은 남성이 사무실에서 교통법규 위반 혐의자를 강압적으로 자백하게 하는 약 1분 길이의 영상이 소셜 미디어에서 뜻밖의 화제가 되었습니다. 영상 속 남성은 경찰관으로 추정되며, 공격적인 태도를 보이며 끊임없이 고함을 지르고 심지어 무례한 언어까지 사용하는 모습이 포착되어 시민들의 분노를 샀습니다.

하지만 해당 영상이 빠르게 확산된 직후, 호치민시 경찰은 신속하게 수사에 착수하여 정교한 딥페이크 영상임을 확인했습니다. 조사 결과에 따르면, 영상 속 얼굴들은 경찰 내부 회의 녹화 영상에서 추출한 후 악의적인 사용자들이 인공지능 기술을 이용해 조작된 장면에 합성한 것으로, 시청자들이 실제 상황이라고 믿도록 만든 것입니다.
특히, 첨부된 오디오에는 실제 공무원의 말이 아닌, 시청자의 감정을 속이기 위해 프로그래밍 및 편집된 합성 AI 음성이 포함된 위협적이고 모욕적인 목소리가 담겨 있습니다.

이번 사건은 딥페이크 기술을 이용해 인민경찰을 왜곡하고 명예훼손하는 대표적인 사례이며, 이는 사이버 공간에서 반동적이고 전복적인 세력들이 점점 더 악용하는 전술입니다. 특히, 이러한 가짜 뉴스는 신속하게 적발되지 않을 경우 법 집행 기관에 대한 국민의 신뢰를 훼손하고, 공동체 내 저항을 선동하며, 허위 정보 확산을 부추기는 등 심각한 결과를 초래할 수 있습니다. 이는 가짜 뉴스를 반박하고, 탐지하고, 퇴치하기 위한 소통 역량을 강화해야 할 필요성을 분명히 보여주는 경고이며, 모든 시민이 경각심을 갖고 공식 출처에서 나온 것으로 보이는 검증되지 않은 내용을 섣불리 공유하거나 댓글을 달지 않도록 당부하는 것입니다.

최근 남부 지역 차량 검사소의 비리 사건과 관련하여, 적대 세력이 부패한 공무원들을 옹호하는 듯한 지방 경찰 간부의 가짜 영상을 유포했습니다. 텔레그램과 소셜 미디어에 "강력한 세력의 지원을 받았다"라는 제목으로 퍼진 이 영상은 사실 인공지능(AI)으로 제작된 것으로, 어떠한 기자회견이나 공식 문서에도 등장하지 않았습니다.

위험한 추세가 온라인상에서 조용히 확산되고 있습니다. 악의적인 행위자들이 인공지능 기술을 이용해 사기 및 갈취 목적으로 가짜 영상을 제작하고 있는 것입니다. 최근 들어 변호사, 의사, 사업가 등 사회적으로 존경받는 인물들의 이미지가 "온라인 사기 피해 복구"를 광고하는 영상에 합성되어 많은 피해자가 발생하고 있습니다.

이러한 영상에서는 인공지능(AI)이 변호사의 목소리와 얼굴을 모방하여 시청자들이 사기꾼들을 믿게 만들고, 쉽게 개인 정보를 제공하거나 돈을 송금하도록 유도합니다. 더욱 위험한 것은 일부 범죄자들이 딥페이크 기술을 이용해 피해자의 얼굴을 성관계 영상에 합성한 후 배우자나 동료에게 보내 "침묵을 지키는 대가로" 돈을 요구하며 협박하는 것입니다.

2025년 3월, 하노이에서 한 피해자가 자신을 주인공으로 한 가짜 성관계 동영상을 받은 후 수천만 동을 송금하라는 요구를 받는 충격적인 사건이 발생했습니다. 한편, 호치민시에서는 또 다른 피해자가 해당 동영상이 유포되는 것을 막지 않으면 20억 동을 내놓으라는 협박을 받았습니다. 공안부는 수사에 착수하여 이러한 범죄 네트워크의 배후에 주로 중국과 동남아시아에 기반을 둔 여러 국제 범죄 조직을 적발했습니다. 이들은 일회용 유심 카드, 전자 지갑, 소셜 미디어 플랫폼 등을 이용하여 신분을 숨기고 있었습니다.

이는 더 이상 사소한 사기가 아니라, 명예와 사회적 관계에 대한 두려움을 교묘하게 악용하여 피해자를 압박하는 "고도의 심리전"입니다. 경계심을 높이고 의심스러운 정보나 행동을 식별하는 능력을 키우지 않으면 누구든 이러한 첨단 범죄자들의 먹잇감이 될 수 있습니다. 이처럼 정교한 사칭 범죄가 만연하는 시대에 모든 시민은 경각심을 갖고 개인 정보를 함부로 공유하지 않으며, 불법 행위에 대해 목소리를 내어 자신과 공동체의 안전을 지키는 데 기여해야 합니다.

딥페이크의 위협에 맞서기 위해서는 커뮤니티 차원의 "디지털 방패"가 필요합니다.

문화체육관광부 산하 방송·텔레비전·전자정보국에 따르면, 2024년 베트남의 디지털 플랫폼들은 허위 및 왜곡된 정보를 담은 4,000개 이상의 영상을 삭제해야 했는데, 이 중 대다수는 딥페이크나 음성 복제와 같은 AI 기술을 이용해 제작된 콘텐츠였다. 특히 젊은 층에게 인기 있는 플랫폼인 틱톡은 경찰, 정부, 사회 정책 등을 소재로 한 1,300개 이상의 딥페이크 영상 삭제 요청을 받았다.

기술 발전이 급속도로 이루어지는 시대에 인공지능은 획기적인 잠재력을 발휘하고 있지만, 동시에 전례 없는 위험도 초래하고 있습니다. 특히 정부 기관의 명예를 훼손하는 왜곡된 콘텐츠를 담은 딥페이크 영상이 대표적인 예입니다. MICRI 미디어 연구소의 조사에 따르면 베트남 소셜 미디어 사용자 중 62%는 주류 언론이나 당국의 경고 없이는 진짜 정보와 가짜 정보를 구분하지 못하는 것으로 나타났습니다. 이는 악의적인 세력이 허위 정보를 유포하고 사회 심리를 교란하는 데 악용하는 "인지적 격차"입니다.

통 반 T.가 경찰서에 있습니다.

범죄학 전문가이자 부교수 겸 박사인 도 칸 틴 소장에 따르면, 인공지능을 이용해 지도자를 사칭하는 가짜 영상을 제작하거나, 허위 진술을 편집하거나, 경찰의 직무 수행을 왜곡하는 것은 새롭지만 특히 위험한 전술입니다. 도 칸 틴 소장은 "딥페이크는 단순한 오락거리가 아니라 신뢰를 훼손하고 사회 불안을 야기할 수 있는 현대 정보전의 한 형태이며, 통제하기 매우 어렵다"고 강조했습니다.

실제로 AI로 조작된 영상들은 결코 무해하지 않습니다. 이러한 영상들은 종종 위반 행위 처리, 범죄 수사, 부패 척결과 같은 민감한 주제를 다루며, 대중의 혼란과 법 집행 기관에 대한 불신을 조장합니다. 더욱 우려스러운 점은 이러한 영상들이 유튜브나 틱톡 같은 주요 플랫폼에서 수십만 회의 조회수를 기록한 후 삭제되는 경우가 많아 부정적인 파급 효과를 낳는다는 것입니다.

디지털 미디어 전문가 호앙 민은 "부주의한 공유나 '좋아요' 한 번으로 가짜 뉴스 공범이 될 수 있다. 모든 인터넷 사용자는 디지털 공간에서의 행동에도 현실 세계에서의 결과가 따른다는 것을 이해해야 한다"고 경고합니다.

이러한 맥락에서 무엇보다 필요한 것은 공동체 내부에서 '디지털 방패'를 구축하는 것입니다. 즉, 경계심을 갖고, 정보에 대한 면역력을 유지하며, 온라인 환경에 대한 책임감을 갖는 것입니다. 기술 자체는 중립적일 수 있지만, 사람들이 그것을 어떻게 사용하는지에 따라 인공지능이 발전의 원동력이 될지, 아니면 사회적 신뢰를 파괴하는 힘이 될지가 결정될 것입니다. 이념적 확고함을 유지하고 경찰관의 이미지를 보호하는 것은 국가 안보의 근간을 지키는 것이며, 이는 관련 당국뿐 아니라 디지털 시대의 모든 시민이 져야 할 과제입니다.

출처: https://baolangson.vn/tinh-hai-mat-cua-ai-5050403.html