(NB&CL) 전쟁, 무장 폭력, 또는 심각한 세계적 지정학적 분열 외에도, 2024년 세계는 허위 정보, 가짜 뉴스, 사기와의 또 다른 중대한 전쟁에 직면해 있습니다. 이 문제는 해결하기 어려운 전설적인 이야기가 될 것이며, 전 세계가 힘을 합쳐 과감한 조치를 취하지 않는다면 더욱 심각해질 것으로 예상됩니다.
정보 혼란 - 점점 커지는 위험 정보 교란, 특히 허위 정보와 사이버 사기는 "글로벌 팬데믹"으로 여겨지고 있습니다. 이는 진실을 수호한다는 사명을 가진 전통 언론 매체들이 주도적인 역할을 해야 하는 전 세계 공통의 싸움입니다. 그러나 이 싸움은 각국과 국제 기구들이 과감하고 근본적인 조치를 취해야만 성공할 수 있습니다. |
가짜 뉴스, 허위 정보, 특히 사기 행위는 이제 세상이 새로운 미디어 시대로 접어들면서 불가피한 결과이자 부정적인 측면이 되었습니다. 간단히 말해, 이 무대는 더 이상 미디어 기관이나 검열받는 신문사만의 것이 아닙니다. 우리가 알고 있듯이 인터넷, 첨단 기기, 특히 소셜 네트워크의 폭발적인 성장은 누구나 수백만 명의 팔로워를 거느린 "기자", "리포터", 심지어 "대변인"이 될 수 있게 했습니다.
규칙 없는 세상, 소셜 네트워크
모든 것에는 양면이 있습니다. 소셜 네트워크의 폭발적인 성장은 정보와 지식이 놀랍도록 빠르고 광범위하게 전파되는 등 많은 이점을 가져왔습니다. 오늘날에는 지구 반대편에 있는 사고 정보라도 단 몇 분 만에 모든 사람에게 전달됩니다. 홍수, 폭풍, 산불과 같은 자연재해 정보 또한 소셜 네트워크 플랫폼을 통해 누구나 빠르게 업데이트하거나 공유하여 효과적으로 정보를 전파하고 경고하는 데 도움이 됩니다.
그러나 소셜 네트워크와 커뮤니티 공유 플랫폼은 긍정적인 측면과 함께 우려스러운 결과를 초래하고 있습니다. 더욱 우려스러운 것은, 현재 인간뿐만 아니라 기계, 특히 인공지능(AI)의 맹렬한 침투로 인해 인터넷 세계 전체, 특히 기술 플랫폼이 너무 많은 위험을 안고 있는 곳이 되고 있다는 점입니다.
소셜 네트워크의 '정보 범유행' 2024년 6월 말 Redline에서 발표한 통계에 따르면 전 세계 소셜 미디어 사용자는 49억 명입니다. 미국인을 대상으로 한 이 설문조사에 따르면, 대부분의 소셜 미디어 사용자는 페이스북, 틱톡, 유튜브 등 플랫폼에서 유포되는 정보의 정확성을 신뢰하지 않는 것으로 나타났습니다. 따라서 Redline은 소셜 미디어의 허위 정보 확산 현황을 설명하기 위해 "인포데믹(infodemic)"이라는 용어를 사용했습니다. |
소셜 네트워크의 세계는 마치 원시림과 같아 규칙이 거의 없습니다. 사람들은 그 안에서 풍요로움과 자유, 그리고 상쾌함을 누리지만, 동시에 치명적인 함정도 존재합니다. 지금까지 거의 모든 국가가 이 "원시림"의 관리 및 조직에 어려움을 겪고 있으며, 위법 행위를 처리하기 위한 첫걸음조차 내딛지 못하고 있습니다. 하지만 이 "원시림"은 이미 인류 전체를 뒤덮고 있습니다.
올해 11월 말, 호주는 세계 최초로 어린이들이 매혹적이면서도 위험하고 거의 무법천지인 "원시적인" 세상에 들어가는 것을 금지하는 법을 공식 도입했습니다. 구체적으로 호주는 16세 미만 어린이의 소셜 네트워크 사용을 금지했으며, 소셜 네트워크가 법을 위반할 경우 최대 3,200만 달러의 무거운 벌금을 부과할 예정입니다.
이러한 맥락에서 가짜 뉴스, 허위 정보, 특히 소셜 네트워크 사기(소프트웨어 애플리케이션, 사기 웹사이트 등 첨단 기술을 이용한 사기 포함)의 폭발적인 증가는 전 세계적인 문제로 이어지고 있습니다. 베트남에서는 매일 인터넷 사기의 온갖 형태로 사기를 당한 피해자들의 가슴 아픈 이야기를 접하고 있습니다. 이는 전 세계 어느 나라에서나 발생하는 문제입니다.
3월, 인터폴은 동남아시아의 사이버 사기가 전 세계적으로 확대되어 연간 3조 달러(프랑스 GDP 규모)에 달하는 규모로 증가했다고 보고했습니다. 심지어 영국의 한 기술 대기업조차도 사기꾼들이 딥페이크 기술을 사용하여 고위 임원을 사칭하여 송금을 지시한 후 2,500만 달러의 손실을 입었습니다. 물론 이는 수백만 건에 달하는 사이버 사기의 일부 사례일 뿐입니다.
소셜 미디어를 통해 잘못된 정보가 퍼지는 걸 막는 건 불가능한 일인가?
여러 국가와 글로벌 기관이 사이버 공간, 특히 TikTok, Facebook, X와 같은 대규모 소셜 플랫폼에서 불법 활동을 예방하거나 처벌하기 위해 끊임없이 노력하고 있지만, 처리된 사례의 수는 여전히 매우 적습니다.
더욱 주목할 점은 지금까지 거의 어떤 국가나 단체도 허위 정보 유포나 법 위반 등의 불법 행위에 대해 소셜 미디어를 책임지우지 않았다는 점입니다. 올해 5월, 메타(Meta)는 페이스북과 인스타그램 플랫폼에서 "AI가 생성했을 가능성이 높은" 콘텐츠가 왜곡되거나 기만당하는 데 사용되었다고 직접 인정했습니다. 이는 소셜 미디어가 유해 정보를 유포할 때 "무죄"라고 스스로 믿고 있음을 보여주는 것으로, 그렇지 않았다면 그렇게 "자백"하지 않았을 것입니다.
실제로 Meta, TikTok, Google, Microsoft, X와 같은 Big Tech 회사는 위반 행위로 전 세계적으로 수십억 달러의 벌금을 내야 했지만 이는 사용자 개인정보 보호 규정이나 독점 금지법 위반과만 관련이 있을 뿐, 자사 내에서 위반 행위가 발생하도록 방치한 데 대한 처벌은 거의 없었습니다.
이 분야에서 가장 주목할 만한 사건은 텔레그램 CEO 파벨 두로프가 메신저 플랫폼에서 범죄 활동을 조장한 혐의로 프랑스에서 체포된 사건입니다. 그러나 정치적 의도가 있었다고 알려진 이 체포는 비밀리에 진행되었습니다. 소셜 네트워크나 일반 기업을 상대로 한 공개 소송과는 달랐습니다. 실제로 유엔이 2024년 10월 보고서를 통해 텔레그램 플랫폼이 범죄 조직의 불법 거래에 이용되었다고 발표했음에도 불구하고, 텔레그램 플랫폼에서의 범죄 활동과 관련하여 단 한 건의 처벌도 받은 적이 없습니다.
세계는 여전히 소셜 미디어 플랫폼의 가짜 뉴스, 허위 정보, 사기 문제를 해결하기 위해 고군분투하고 있습니다. 일러스트 사진: IJNET
따라서 이처럼 명백한 불법 행위가 있더라도 소셜 미디어 플랫폼이나 커뮤니티 공유를 통해 대처하는 것은 불가능하며, 유해한 콘텐츠, 가짜 뉴스, 잘못된 정보를 통제하는 것은 매우 어려운 일임이 분명합니다.
따라서 플랫폼들은 두려움을 느끼지 않을 뿐만 아니라, 점점 더 정교해지는 알고리즘을 통해 시청자를 유인하기 위해 논란의 여지가 있고 선정적이며 터무니없거나 유해한 정보를 조장하는 등 "자신들만의 방식대로 행동"하는 조짐을 보이고 있습니다. 빅테크 기업들 또한 이 문제에 대해 처벌하려는 어떤 움직임에도 압력을 가하거나 이의를 제기할 준비가 되어 있다는 점은 주목할 만합니다. 소셜 네트워크 X의 소유주이자 억만장자 엘론 머스크는 2024년 9월, 소셜 미디어 기업들이 온라인 허위 정보 유포를 막지 못할 경우 벌금을 부과하는 새로운 호주 법안에 반대 의사를 표명했습니다.
아직 호주에서 통과되지 않은 이 법안에 따라, 인터넷 플랫폼은 허위 정보 유포 시 전 세계 매출의 최대 5%까지 벌금을 부과받을 수 있습니다. 구글과 메타 등 다른 주요 기술 플랫폼들도 우려를 표명하며 새로운 호주 법안에 이의를 제기했습니다. 이 법안은 허위 정보, 가짜 뉴스, 사기 행위를 유포하는 소셜 네트워크에 벌금을 부과하는 내용을 담고 있는 세계적으로 드문 법안입니다.
전통 미디어와 저널리즘의 세계를 살펴보면 이러한 역설을 받아들이기 어렵습니다. 신문이나 텔레비전 채널이 사소한 전문적 실수라도 저지르면, 더 나아가 허위 또는 불법 정보를 제공하면 기관 전체가 엄중한 처벌을 받을 수 있으며, 최소한 정보를 제공한 기자나 편집자뿐 아니라 독자들도 그 기관에 등을 돌릴 것이라는 사실은 누구나 알고 있습니다.
"세계적 대유행"이 통제 불능 상태로 치닫고 있다
잘못된 정보, 가짜 뉴스, 유해 뉴스, 사기 문제는 전쟁이나 팬데믹보다 더 심각하다고 할 수 있습니다. 이는 전 세계 모든 세대, 특히 젊은 세대에 영향을 미칠 수 있기 때문입니다. 소셜 네트워크, 특히 페이스북, 틱톡, 구글의 중독성 강한 짧은 동영상 기능이 어린이의 신체적, 정신적 건강에 해롭다는 것을 보여주는 연구가 너무나 많습니다.
최근 유니세프(UNICEF) 연구에 따르면 소셜 미디어는 사용자의 관심을 최대한 오래 끌도록 설계되어 있으며, 인정받고 싶은 마음이나 거절당하는 것에 대한 두려움과 같은 우리의 편견과 심리적 취약성을 이용합니다. 과도한 소셜 미디어 사용은 시기, 열등감, 낮은 삶의 만족도와 관련이 있는 것으로 알려져 있습니다. 연구에 따르면 이러한 습관은 우울증, 불안, 수면 부족 등의 증상으로 이어질 수 있으며, 그중 가장 대표적인 것이 정신 질환입니다.
가수 테일러 스위프트는 AI 딥페이크에 희생된 유명인 중 한 명입니다. 사진: 허버트 왕
베트남, 소셜 네트워크 사용자 인증 의무화 규정 발효 베트남 정부가 최근 발표한 인터넷 서비스 및 온라인 정보의 관리, 제공 및 이용에 관한 법령 147/2024/ND-CP가 2024년 12월 25일부터 시행됩니다. 이에 따라 소셜 네트워크는 전화번호 또는 개인식별번호를 통해 사용자를 인증해야 하며, 인증된 계정만 정보 제공(기사 작성, 댓글, 라이브 스트리밍 등) 및 소셜 네트워크 정보 공유가 허용됩니다. 이 법령은 소셜 네트워크상에서 허위 및 오해의 소지가 있는 정보의 확산, 특히 사기 행위를 크게 제한할 것으로 예상됩니다. |
허위 정보, 가짜 뉴스, 딥페이크가 현실 세계에 심각한 영향을 미치고 전 세계적인 위협이 될 수 있다는 사례는 많습니다. 올해 8월, 영국에서 어린 소녀를 칼로 찔러 살해한 용의자가 급진적인 무슬림 이민자(실제로는 영국인)라는 허위 주장이 소셜 미디어에 퍼지면서 폭동이 발생했습니다. 이 폭동으로 경찰은 수천 명을 체포했습니다.
2024년 7월 도널드 트럼프 암살 시도 당시 소셜 미디어는 가짜 뉴스와 음모론으로 범람했습니다. 이탈리아 기자가 용의자로 지목되었다는 사실(실제로는 20세 미국인 남성)과 같은 내용이었습니다. 또한, 소셜 미디어에는 용의자가 중국인이거나 사건이 "각본"이라는 왜곡된 정보도 있었습니다. 이러한 허위 정보의 확산은 러시아-우크라이나 전쟁, 이스라엘-팔레스타인 전쟁, 이슬람 혐오증, 그리고 반유대주의와 같은 세계 곳곳의 갈등과 분쟁 지역에 대한 증오를 증폭시키고 있습니다.
그러나 AI의 폭발적인 성장과 함께 허위 정보에 대한 싸움은 걷잡을 수 없이 치솟고 있습니다. 딥페이크 도구와 저렴한 AI 모델이 별다른 통제 없이 만연하고 있습니다.
DeepMedia 통계에 따르면, 딥페이크 영상과 음성의 양은 매년 급증하고 있습니다. 2023년에는 2022년 대비 딥페이크 영상이 3배 이상, 음성이 8배 이상 증가했습니다. 이 중 약 50만 개의 딥페이크 영상과 음성이 2024년 전 세계 소셜 네트워크에 공유될 것으로 예상됩니다.
2024년 초, 가수 테일러 스위프트의 AI가 생성한 일련의 포르노 이미지가 소셜 미디어에 퍼져 전 세계에 큰 파장을 일으켰습니다. 조 바이든 미국 대통령을 비롯한 전 세계 정치인들과 영국, 인도, 나이지리아, 수단, 에티오피아, 슬로바키아의 지도자들 또한 딥페이크 문제의 희생양이 되었습니다.
따라서 사이버 공간에서의 가짜 뉴스, 허위 정보, 특히 사기 행위 문제는 점점 더 심각해지고 있습니다. 다가오는 AI 시대에 이 "글로벌 팬데믹"은 전 세계, 특히 각국 정책 입안자들의 공동 예방 노력 없이는 통제 불능 상태가 될 수 있습니다.
황하이
[광고_2]
출처: https://www.congluan.vn/truyen-ky-cuoc-chien-chong-thong-tin-sai-lech-deepfake-va-lua-dao-post328128.html
댓글 (0)