재난 발생 후 가짜 영상의 조회수 급증을 차단합니다.

기술을 이용하여 진실을 왜곡하는 행위는 윤리와 법을 위반할 뿐만 아니라 시청자에게 심각한 심리적 피해를 주고, 피해자 가족에게 큰 고통을 안겨주며, 사회 구성원의 신뢰를 무너뜨립니다.

인공지능이 만들어낸 가짜 이미지는 하롱베이에서 발생한 보트 전복 사고를 묘사하고 있다.

가상 비극, 현실 트라우마.

지난 7월 하롱베이에서 발생한 그린베이 58관광선 전복 사고는 희생자와 그 가족들에게 가슴 아픈 결과를 남겼을 뿐만 아니라 인터넷상의 정보 악용에 대한 경각심을 일깨워주는 계기가 되었습니다.

사고 발생 불과 몇 시간 후, 틱톡과 페이스북 같은 플랫폼에서 일련의 "재연" 영상들이 빠르게 퍼져나갔습니다. 넓은 물웅덩이 속에서 울부짖는 아이들과 비명을 지르는 어른들, 그리고 구조 사이렌 소리가 담긴 영상들은 보는 이들의 등골을 오싹하게 했습니다. 그러나 이러한 영상들 대부분은 인공지능이 생성했거나 관련 없는 영상들을 편집한 것으로, 진실을 전혀 반영하지 못했습니다.

2024년 8월 하롱베이 여행 중 찍힌 아이들의 자연스러운 사진 한 장이 배 전복 사고 직전의 "마지막 사진"으로 해석되어 많은 팬 페이지에 동정적인 글과 함께 공유되었습니다.

가수 타이 투이 린은 감동적인 순간에 자신의 개인 페이지에 이 사진을 추모 글과 함께 공유했는데, 사진의 소유자인 NT 씨는 사진이 오해를 불러일으켰다며 정정 및 삭제를 요청했습니다.

유명인뿐만 아니라 수많은 소셜 미디어 계정들도 순진함과 공감에서 비롯된 허위 정보를 공유하면서 가짜 영상과 왜곡된 이미지 유포에 가담하는 피해자가 되고 있습니다.

하롱베이에서 배가 전복된 사건뿐만 아니라, 이전에도 라오까 이성 랑누 마을의 폭풍과 홍수 피해 현장을 인공지능을 이용해 "재현"하거나, 오래전 교통사고를 "생생하게 되살려" 새로운 재난으로 탈바꿈시킨 영상들이 많이 있었습니다.

극적인 카메라 앵글과 애절한 내레이션이 특징인 이러한 영상들은 종종 "다음 편을 시청해서 무슨 일이 일어났는지 알아보세요"라는 약속이나 피해자를 위해 영상을 공유해 달라는 요청으로 끝맺습니다. 사용자들의 감정과 호기심을 이용하는 이러한 가짜 콘텐츠는 순식간에 퍼져나가 진실과 거짓의 경계를 모호하게 만듭니다.

위와 같은 상황에 비추어, 국회 문화사회위원회 상임위원인 부이 호아이 손 부교수는 정보 폭발 시대에 많은 사람들이 첨단 기술로 조작되어 마치 진짜처럼 보이는 허위 정보와 영상의 미로에 빠져들고 있다고 지적했습니다. 사람들은 자신도 모르게 사실이 아닌 것을 믿고, 동시에 신뢰할 만한 가치에 대해서는 회의적인 태도를 보이고 있습니다. 이는 사회적 인식과 공동체의 신뢰를 위협하는 심각한 문제입니다.

이러한 유해 콘텐츠의 영향은 일시적인 감정적 고통을 넘어섭니다. 많은 사람들이 끔찍하고 비극적인 영상에 노출된 후 심각한 심리적 고통을 겪었다고 보고합니다.

하노이 보데동 응옥람 거리 145번지에서 유심카드 판매점을 운영하는 응우옌 탄 하 씨는 “사고 영상과 울부짖는 아이들의 모습을 보고 나서 잠을 이루지 못할 정도로 괴로웠습니다. 그것들이 조작된 것이라는 사실을 알고 나서는 모욕감을 느꼈습니다. 더 걱정스러운 것은 많은 사람들이 시청자들의 동정심을 악용하여 QR 코드, 가짜 기부 계좌를 연결하고, 위조 상품을 판매하는 등, 순수한 감정을 뻔뻔한 이윤 추구 수단으로 이용하고 있다는 점입니다.”라고 말했습니다.

인공지능 시대에 진품과 가품을 구별하는 방법.

인공지능(AI)의 발전은 많은 편리함을 가져다주었지만, 동시에 전례 없는 '가짜 뉴스 확산'이라는 문제도 야기했습니다. 사이버보안협회 전문가들에 따르면, 가짜 이미지와 영상을 제작하는 것이 더욱 쉽고 정교해지면서 사용자들이 진짜와 가짜를 구분하기 어려워졌습니다. 특히, 경각심 부족과 검증되지 않은 정보를 소셜 미디어에 공유하는 습관이 가짜 뉴스의 급속한 확산을 초래했습니다.

하노이 변호사협회 소속 부이 티 마이 변호사는 인공지능을 이용해 재난 관련 가짜 콘텐츠를 만들어 조회수와 수익을 올리는 행위는 잘못된 것이며 엄중한 처벌이 필요하다고 강조했습니다. 사람들은 기술과 법에 대한 지식을 적극적으로 습득하고, 공식 정보 출처, 신뢰할 수 있는 팬 페이지, 또는 믿을 만한 개인의 정보만을 신뢰해야 합니다. 소셜 미디어를 현명하고 합법적으로 사용하는 것은 자신을 보호할 뿐만 아니라 가짜 뉴스 확산을 막고 건전하고 문명화된 온라인 환경을 유지하는 데 기여합니다.

부이 호아이 손 부교수는 이러한 견해에 동의하며, 디지털 플랫폼뿐 아니라 법 자체에서도 가짜 뉴스 및 영상에 대한 더욱 강력한 대책이 필요하다고 주장했습니다. 현재 형법, 사이버보안법 및 관련 시행령에는 사이버 공간에서의 명예훼손, 위조, 사기 행위에 대한 규정이 이미 마련되어 있지만, 이러한 규정을 엄격하게 시행하고 재난 관련 가짜 뉴스의 위험성이 증가하는 추세를 반영하여 새로운 규정을 추가해야 합니다. 또한 가정과 학교에서의 조기 미디어 교육이 필수적입니다. 아이들에게 가짜 영상을 식별하는 방법, 정보의 진위 여부를 확인하는 방법, 그리고 콘텐츠 공유 시의 책임감을 가르쳐야 합니다. 무엇보다 중요한 것은 타인의 고통을 악용하는 사람이 없도록 공감 능력을 함양하는 교육을 지향해야 한다는 점입니다.

인공지능이 급속도로 발전하는 시대에 진실과 거짓을 구별하는 것은 더 이상 직감에만 의존하는 것이 아니라, 모든 소셜 미디어 사용자가 경계심, 지식, 그리고 책임감을 가져야 합니다. 따라서 모든 사용자는 진위 여부를 적극적으로 확인하고 신중을 기한 후에 정보를 공유하고 확산시켜야 합니다. 그래야 소셜 미디어가 신뢰할 수 있는 소통 공간이 되어 건전하고 문명화된 정보 환경을 구축하는 데 기여할 수 있습니다.

출처: https://hanoimoi.vn/chan-song-cau-view-tu-video-gia-sau-tham-hoa-711381.html