재난 이후 조회수를 끌어들이는 가짜 영상의 '물결' 차단

인공지능이 급속도로 발전하는 시대에, AI가 만든 가짜 영상은 위험한 '정보 무기'가 되고 있으며, 특히 재난이나 사고를 재현하여 조회수를 늘리고, 돈을 벌고, 심지어 사기를 저지르는 데 이용될 경우 더욱 위험해집니다.

기술을 이용해 진실을 왜곡하는 행위는 윤리와 법을 위반하는 것일 뿐만 아니라, 시청자의 심리에 깊은 상처를 입히고, 피해자 가족에게 심각한 영향을 미치며, 지역 사회에 대한 신뢰를 훼손합니다.

하롱베이에서 전복된 선박의 AI가 생성한 가짜 이미지.

가상의 비극, 실제 피해

작년 7월 하롱베이에서 전복된크루즈 선 블루베이 58호는 희생자와 그 가족들에게 가슴 아픈 결과를 남겼을 뿐만 아니라, 사이버 공간에서의 비윤리적인 정보 악용 현상에 대한 경고가 되기도 했습니다.

사건 발생 몇 시간 후, 틱톡과 페이스북 등 플랫폼에 일련의 "재현" 영상이 빠르게 퍼졌습니다. 아이들이 울부짖고, 어른들이 광활한 바다 한가운데서 비명을 지르고, 구조 사이렌 소리가 공중에 울려 퍼지는 모습은 시청자들을 몸서리치게 했습니다. 그러나 이러한 영상의 대부분은 AI가 재창조하거나 관련 없는 출처에서 편집한 것이었으며, 진실을 전혀 반영하지 못했습니다.

2024년 8월 하롱으로 여행을 떠난 어린이들의 평범한 사진도 전복된 선박의 "재앙 전 마지막 사진"으로 바뀌었고, 많은 팬페이지에서 동정적인 캡션과 함께 공유되었습니다.

감정에 북받친 가수 타이 투이 린은 추모 메시지와 함께 자신의 개인 페이지에 이 사진을 공유했고, 사진 소유자인 NT 씨는 사진이 왜곡되었다는 이유로 수정 및 삭제를 요청했습니다.

유명인뿐만 아니라, 많은 다른 소셜 미디어 계정도 순수함과 동정심을 가지고 거짓 내용을 공유하다가 가짜 영상과 왜곡된 이미지의 희생자가 되었습니다.

하롱베이에서 배가 전복된 것뿐만 아니라, 이전에도 많은 영상이 작년에 랑누 마을( 라오까 이성)에서 발생한 폭풍과 홍수의 결과를 '재현'했고, 수년 전의 오래된 교통사고도 AI가 새로운 재난으로 '생명을 불어넣었습니다'.

극적인 카메라 앵글과 비극적인 내레이션이 담긴 이러한 영상들은 종종 "무슨 일이 일어났는지 알아보려면 다음 편을 시청하세요"라는 약속이나 피해자들을 대신하여 정보를 공유해 달라는 요청으로 끝맺습니다. 사용자의 감정과 호기심을 악용하여 가짜 콘텐츠는 빠른 속도로 확산되며, 진짜와 가짜의 경계를 허물고 있습니다.

이러한 상황에 직면하여 국회 문화사회위원회 상임위원인 부이 호아이 손 부교수는 정보 폭발 시대에 많은 사람들이 가짜 뉴스와 "현실적"으로 보이는 첨단 연출 영상의 미로에 빠져들고 있다고 말했습니다. 그들은 신뢰할 수 있는 가치에 회의적인 태도를 취하면서, 의도치 않게 현실이 아닌 것들을 믿고 있습니다. 이는 사회적 인식과 공동체의 신뢰를 위협하는 우려스러운 상황입니다.

이런 유해 콘텐츠의 영향은 일시적인 감정적 피해에만 그치지 않고, 많은 사람들이 비극적이고 고통스러운 영상에 노출된 후 심각한 심리적 영향을 받았다고 보고합니다.

하노이 보더구 응옥럼 거리 145번지에 있는 SIM 카드 매장 주인 응우옌 탄 하 씨는 이렇게 말했습니다. "사고 영상과 우는 아이들 영상을 보고 나면 불면증에 시달립니다. 가짜라는 걸 알았을 때 정말 화가 났습니다. 더 걱정스러운 것은 많은 사람들이 시청자들의 동정심을 이용해 QR 코드를 첨부하고, 계정을 만들고, 위장 판매를 하는 등 진짜 감정을 노골적인 부당 이득 도구로 이용한다는 것입니다."

AI 시대에 진짜와 가짜를 구별하는 방법

인공지능(AI)의 발전은 많은 편리함을 제공하지만, 동시에 전례 없는 "가짜 뉴스의 대유행"을 초래합니다. 사이버 보안 협회(CSA) 전문가들에 따르면, 가짜 이미지와 영상을 만드는 것이 더욱 쉽고 정교해져 사용자들이 진짜와 가짜를 구분하기 어렵게 되었습니다. 특히 경각심 부족과 소셜 미디어에서 검증되지 않은 정보를 공유하는 습관은 가짜 뉴스의 확산을 가속화하고 있습니다.

하노이 변호사 협회 부이 티 마이 변호사는 AI를 이용하여 재난 관련 가짜 콘텐츠를 제작하여 조회수와 수익을 올리는 행위는 잘못된 것이며 엄격하게 처벌받아야 한다고 말했습니다. 사람들은 기술과 법률 지식을 적극적으로 갖추고, 공식 정보 출처, 평판이 좋은 팬페이지, 또는 매우 신뢰할 수 있는 사람만 신뢰해야 합니다. 소셜 네트워크를 현명하고 합법적으로 사용하는 것은 자신을 보호하는 데 도움이 될 뿐만 아니라 가짜 뉴스를 예방하고 건전하고 문명화된 온라인 환경을 유지하는 데에도 도움이 됩니다.

같은 견해를 가진 부이 호아이 손(Bui Hoai Son) 부교수는 디지털 플랫폼뿐 아니라 법 자체를 통해 가짜 뉴스와 가짜 영상에 대처하기 위한 더욱 강력한 조치가 필요하다고 제안했습니다. 현재 형법, 사이버 보안법 및 관련 법령에는 사이버 공간에서의 명예훼손, 위조, 사기 행위에 대한 규정이 있지만, 이를 엄격하게 시행해야 하며, 재난 관련 가짜 뉴스의 위험성 증가에 따라 새로운 규정을 추가할 수도 있습니다. 또한, 가정과 학교에서 조기에 미디어 교육을 강화해야 합니다. 어린이들은 가짜 영상을 식별하고, 정보를 검증하는 기술을 익히고, 콘텐츠 공유 시 자신의 책임을 이해해야 합니다. 더 중요한 것은, 교육은 누구도 타인의 고통을 이용해 이득을 취하지 않도록 연민을 기르는 데 중점을 두어야 한다는 것입니다.

강력한 AI 발전 시대에 진짜와 가짜를 구분하는 것은 더 이상 단순히 감각에 의존하는 것이 아니라, 각 소셜 네트워크 사용자의 경각심, 지식, 그리고 책임감을 요구합니다. 따라서 각 개인은 진정한 가치를 공유하고 확산하기 전에 적극적으로 검증하고 신중해야 합니다. 이를 통해 소셜 네트워크가 신뢰할 수 있는 연결 공간이 되고, 건전하고 문명화된 정보 환경 조성에 기여할 수 있습니다.

출처: https://hanoimoi.vn/chan-song-cau-view-tu-video-gia-sau-tham-hoa-711381.html