소셜 미디어에서 짧은 영상을 시청하는 것은 젊은이들의 비판적 사고력을 손상시킵니다.

가짜 뉴스는 통제할 수 없는 속도로 생성되고 확산되어 노년층과 젊은층 모두에게 강한 영향을 미칩니다. 많은 허위 정보가 짧은 영상 플랫폼에서 생성되는데, 시청자들은 검증 없이 감정에 쉽게 휩쓸려 비판적 사고를 점차 상실하고 빠르게 발전하는 소셜 미디어 환경에서 쉽게 조종당합니다.

위 정보는 티엔퐁 신문이 호치민 시 교통대학교와 공동으로 주최하고 약 1,000명의 학생이 참여한 "AI 시대의 가짜 뉴스 식별 및 대응" 세미나에서 전문가들이 공유한 내용입니다. 이 프로그램은 인공지능의 급속한 발전으로 사이버 보안 및 가짜 뉴스와 관련된 많은 과제가 발생하는 상황에서 젊은이들에게 책임감 있게 정보를 식별하고, 대응하고, 공유할 수 있는 역량을 갖추도록 하는 것을 목표로 합니다.

짧은 영상 과 인공지능을 통해 조작된 정보

호찌민시 경찰청 형사과 특수경찰팀 후인 도 탄 틴 대위에 따르면, 많은 가짜 뉴스가 짧은 영상 플랫폼에서 비롯됩니다. 이러한 유형의 콘텐츠를 과도하게 시청하는 시청자들은 "빠르지만 얕은 사고, 쉽게 조작되는 감정, 진실과 거짓을 구분하는 어려움"으로 이어집니다. 틴 대위는 짧은 영상이 사람들의 감정을 자극하기는 하지만, 사람들이 사고를 게을리하게 만들고, 점차 정보를 단순화하는 데 익숙해지게 하며, 토론 능력을 점차 상실하게 만든다고 생각합니다.

호찌민시 경찰청 형사과 특수경찰팀 후인 도 떤 틴 대위가 토론에 참여했다. 사진: 조직위원회

후인 도 떤 틴 선장은 주류 뉴스 시청 문화가 점차 잊혀지고 있다고 말했습니다. 과거에는 온 가족이 함께 저녁 뉴스를 시청하는 습관이 모두가 정확한 정보를 공유하고 사회 문제를 논의하는 데 도움이 되었지만, 이제 학생들은 주로 짧은 영상물을 시청하고 소셜 미디어를 탐색하며, 부모님과 이야기를 나누거나 함께 뉴스를 시청하는 시간은 거의 없습니다.

가짜 뉴스는 개인이나 소규모 지역 사회에만 영향을 미치는 것이 아니라 국가 안보에도 위협이 될 수 있습니다. 특히 가짜 사진이나 고위 지도자의 발언을 온라인에 게시하면 국내외에 부정적인 영향을 미칠 수 있습니다.

현재의 인공지능 도구는 단 몇 초 만에 딥페이크 영상을 제작할 수 있게 해 점점 더 정교해지는 허위 정보 유포 위험을 높이고 있습니다. 어떤 사람들은 직접 가짜 뉴스를 만들어 친척이나 부모에게 보내기도 하는데, 이는 지역 사회에서 가짜 뉴스에 대한 인식이 여전히 제한적임을 보여줍니다. 틴 선장은 가짜 뉴스가 AI뿐만 아니라 검증 없이 감정적으로 콘텐츠를 제작, 편집, 공유 또는 댓글을 달는 인간의 행동에서도 비롯된다고 강조했습니다.

아테나 사이버 보안 센터 소장인 보 도 탕 씨는 사이버 범죄자들이 AI 기술을 이용하여 사용자의 심리를 공격하기 위해 이미지와 음성을 위조하는 딥페이크 제품을 만들고 있다고 말했습니다. 그는 한 기업 대표의 이미지가 명예를 훼손하기 위해 편집되어 거의 10억 동(약 1조 2천억 원)에 달하는 협박을 받은 사례를 언급했습니다. 이는 단순한 금융 사기가 아니라 AI 기술을 활용하여 치밀하게 준비된 고의적인 심리적 공격입니다.

탕 씨는 많은 젊은이들이 기술에 능숙하지만 감정적인 요인으로 인해 여전히 쉽게 조종당할 수 있다고 경고했습니다. 가짜 뉴스를 만드는 사람들은 여론을 끌어들이기 위해 허위 정보를 퍼뜨릴 뿐만 아니라, 타인의 명예, 평판, 그리고 경력을 파괴하는 데 이를 악용합니다.

아테나 사이버 보안 센터 소장인 보 도 탕 씨는 가짜 뉴스에 맞서기 위해서는 진짜 뉴스를 만드는 것이 필요하다고 말했습니다. 사진: BTC

전문가들은 AI 사기범들이 피해자의 개인 정보, 관계, 행동을 면밀히 분석하는 경우가 많다고 지적합니다. 피해자의 심리적 약점을 파악한 후에는 지속적으로 압박, 위협, 또는 부정적인 정보를 유포하여 피해자에게 돈을 이체하거나, 데이터를 공개하거나, 자신에게 유리한 행동을 하도록 강요합니다.

후인 도 탄 틴 선장은 자신의 업무 경험을 바탕으로 가짜 뉴스를 예방하고 퇴치하는 핵심 요소는 각 시민의 정보 검증 능력과 인식 제고라고 생각합니다. 틴 선장은 기술이 아무리 현대적이라 하더라도, 사람들이 검증 방법을 알고 공식 언론과 미디어 기관의 검증된 출처만 믿는다면 속지 않을 것이라고 강조했습니다. 또한, 틱톡과 같은 단기적인 소셜 네트워킹 플랫폼에 의존하기보다는 공식 출처에서 정보를 얻는 습관을 들이도록 권고했습니다.

사기적 시나리오는 학부모와 학생 모두의 심리를 조작합니다.

후인 도 떤 틴 경감은 학생들이 가짜 뉴스와 첨단 사기의 피해자가 되기 쉬운 집단이라고 지적했습니다. 흔한 수법 중 하나는 "제로동 배송업체" 수법으로, 악당들이 무료 배송 메시지를 보내 경찰관을 사칭하여 학생들을 영상 통화로 유인하는 것입니다. 이들은 피해자들에게 확인에 협조해 달라고 요구하고, 심지어 "확인"을 위해 옷을 모두 벗고 영상을 촬영하고 신체적 특징을 확인하도록 요구하기도 합니다. 영상을 확보한 후, 피해자가 약 2억 동(VND)의 "수사 비용"을 지불하지 않으면 영상을 공개하겠다고 협박합니다.

이 토론회에는 학교 학생 약 1,000명이 참여했습니다. 사진: 조직위원회

돈이 없는 학생들은 납치 장면을 가짜로 촬영하고, 손을 묶고, 가짜 피를 묻혀 부모님께 보내는 등 가족에게 돈을 요구하는 상황을 만들어내도록 교육받습니다. 심지어 일부 학생들은 "송금 중개인" 역할에 현혹되어 사기단의 중개인이 되기도 합니다.

또 다른 시나리오는 가짜 장학금 사기입니다. 사기범들은 "17개의 비밀 장학금" 목록을 보내 18번째 사람에게 2억 동(VND)을 지불하여 심사를 받도록 요구합니다. 피해자가 이를 믿고 돈을 이체한 후에도, 은행에 적발되지 않기 위해 계좌 잔액이 30억 동(VND) 이상이어야 한다는 조건으로 계속해서 업그레이드를 요청하고, 심지어 5억 동(VND) 미만의 금액으로 여러 번 이체하는 방법까지 안내합니다.

더 심각한 것은 아이와 부모를 동시에 속이는 사례입니다. 진짜 경찰관 옆에 앉은 어머니가 여전히 그 사실을 믿지 못하는 경우도 있습니다. 왜냐하면 그녀는 여전히 비밀 유지를 요구하는 "가짜 경찰관"과 통화하고 있기 때문입니다. 가해자들은 두려움, 아이에 대한 사랑, 그리고 기대감이라는 감정적 요소를 철저히 이용하여 피해자의 마음을 조종합니다.

호치민시 교통대학교 청년회 서기인 응우옌 득 치엔 씨는 학교에서 위조 장학금 서류를 접수했다고 밝혔습니다. 서류는 전문적으로 제작되었고, 로고와 표준 행정 용어가 사용되어 많은 학생들이 진짜라고 믿게 만들었습니다. 위조 서류가 발견되자마자 학교는 관련 부서와 협력하여 확인하고 공식 정보 시스템 전체에 긴급 경고를 발령했습니다.

이러한 사건들을 통해 학교는 가짜 뉴스를 예방하고 퇴치하는 것이 일시적인 과제가 아니라 장기적인 책임임을 깨달았습니다. 따라서 학교는 학생들의 인지 능력을 향상시키고 "정보 항체를 증가"시키기 위한 다양한 프로그램을 시행해 왔습니다.

응우옌 득 치엔 씨는 "학교는 당국과 협력하여 정보 보안 기술, 가짜 뉴스 방지, 소셜 네트워크의 책임감 있는 사용에 대한 교육 세션을 마련했습니다. 이 내용은 학기 초 시민 활동 프로그램에 통합될 예정입니다."라고 덧붙였습니다.

학생들이 소셜 미디어 사기 피해 경험을 공유하고 있다. 사진: BTC

호치민시 교통대학교 정보기술 및 전기전자공학 연구소 부소장인 레 꾸옥 뚜언 박사는 본교가 1학년 교육 과정에 "인공지능 및 응용"과 "혁신적 사고"라는 두 과목을 포함시켰다고 밝혔습니다. 조기 교육을 통해 학생들은 기술을 이해하고, AI를 제대로 구분하고 적용할 수 있게 됩니다.

르 꾸옥 뚜안 박사는 학생들이 온라인에서 개인적인 이미지와 소리를 공유하는 것을 자제할 것을 권고합니다. 음성이나 이미지만으로도 기술을 통해 거의 완벽하게 재현될 수 있기 때문입니다. 그는 계정 보호를 위해 다층 인증을 사용하는 것의 중요성을 강조하며, 경찰이나 당국이 절대 송금이나 개인 정보를 요구하기 위해 전화를 걸지 않을 것이라고 강조합니다.

또한 투안 박사는 소셜 네트워크에 참여하는 학생들이 민감한 콘텐츠에 댓글을 달거나, 공유하거나, 감정을 표현하기 전에 신중하게 고려해야 한다고 제안했습니다. "좋아요", "공유", "댓글"과 같은 모든 행동은 알고리즘에 기록되며, 여론을 조작하는 데 악용될 수 있습니다.

아테나 사이버 보안 센터 소장인 보 도 탕 씨는 가짜 뉴스에 맞서기 위해서는 각자가 스스로 "진정한 가치"와 "진짜 뉴스"를 적극적으로 창출해야 한다고 말했습니다. 진정한 역량과 결과물을 확보할 때, 개인은 거짓 정보에 대한 저항력을 갖게 됩니다. 그는 또한 학생들에게 소셜 네트워크를 활용하여 전문 채널을 구축하고, 지식을 공유하고, 전공 분야의 연구를 수행함으로써 진정한 역량 프로필을 구축하고, 자신의 가치를 확인하고, 고용주의 관심을 끌도록 독려했습니다.

출처: https://baotintuc.vn/van-de-quan-tam/xem-video-ngan-tren-mang-xa-hoi-lam-suy-giam-tu-duy-phan-bien-cua-gioi-tre-20251106184313636.htm