인공지능이 정보를 왜곡하기 위해 사용하는 전술을 파악합니다.

인공지능(AI)을 이용해 무력 충돌 장면을 조작하거나 TV 뉴스 보도를 왜곡하는 행위가 소셜 미디어에서 위험한 추세로 자리 잡고 있습니다. 단순한 오락을 넘어, 이러한 행위는 악의적인 세력에 의해 진실을 왜곡하고 공공질서와 안보를 해치는 데 악용되고 있으며, 모든 시민이 경각심을 가져야 할 필요성을 제기합니다.

타이응우옌 경찰은 인공지능 애플리케이션을 이용해 VTV 뉴스 방송과 관련된 허위 정보를 오락 목적으로 게시하는 사람들에게 경고를 발령했습니다.

최근 인터넷에서는 타이응우옌성에서 교통경찰과 군대가 충돌하는 듯한 이미지가 확산되면서 큰 파장을 일으켰습니다. 이 이미지들은 인공지능(AI) 기술을 이용해 교묘하게 조작된 것으로, 소셜 미디어 사용자들 사이에서 광범위한 혼란을 야기했습니다.

추방된 반동 세력들이 독자들의 호기심을 악용하여 인공지능 기술을 활용해 조작된 시나리오와 선정적인 정보를 만들어내고 있습니다. 그들의 목적은 단순히 관심을 끄는 데 그치지 않고, 여론을 선동하고 군 이미지를 심각하게 훼손하려는 음흉한 의도를 숨기고 있습니다.

정치적 음모론 외에도, 오늘날 일부 사람들은 "재미"라고 생각하는 유행을 통해 무심코 가짜 뉴스를 퍼뜨리는 데 일조하고 있습니다.

얼마 전, 타이응우옌성 경찰청 산하 이민관리과는 타이응우옌성 린선동에 거주하는 MPQ 씨의 사건을 적발하고 처리했습니다. MPQ 씨는 휴대전화의 AI 애플리케이션을 이용해 VTV1 뉴스 프로그램의 인터뷰 영상에 자신의 얼굴을 합성한 후, "유머러스하고 재미있다"는 취지의 글과 함께 자신의 페이스북 페이지에 게시했습니다.

해당 게시물은 수백 건의 반응을 불러일으키며 정보 혼란을 야기했습니다. 경찰서에서 Q씨는 오락 목적으로만 게시물을 올렸다고 인정했지만, 뉴스 프로그램의 로고와 내용을 이용해 허위 정보를 유포한 행위는 해당 뉴스 기관의 평판에 부정적인 영향을 미쳤습니다. 위반 행위의 심각성을 고려하여 당국은 경고 조치를 내리고 해당 콘텐츠 삭제를 요청했으며, 재발 방지 서약을 받았습니다.

인공지능 기술을 이용해 만들어지는 유해하고 독성 있는 가짜 정보와 허위 정보가 점점 더 정교해짐에 따라, 사람들은 사이버 공간에서 자신을 보호하기 위해 강력한 정신적 "필터"를 구축해야 합니다.

동시에 AI 기술의 징후를 인식하는 것이 매우 중요합니다. 사용자는 입 모양이 말과 일치하지 않거나, 얼굴 조명이 상황과 맞지 않거나, 딥페이크에서 흔히 나타나는 화면 오류와 같은 비정상적인 세부 사항에 주의를 기울여 가짜 뉴스의 함정에 빠지지 않도록 해야 합니다.

특히, 모든 개인은 국가 기관을 사칭하는 행위, 즉 경찰, 군대 또는 언론 매체의 로고와 이미지를 무단으로 사용하여 허위 콘텐츠를 제작하는 행위(단순히 농담 목적이라 할지라도)는 법으로 엄격히 금지되어 있음을 명확히 인지해야 합니다.

또한, 개인 정보 유출 위험을 방지하고 악의적인 사용자가 사기 목적으로 악용하는 것을 막기 위해 얼굴 데이터를 요구하는 익숙하지 않은 AI 애플리케이션을 다룰 때는 주의가 필요합니다.

출처: https://baothainguyen.vn/phap-luat/202605/nhan-dien-thu-doan-dung-ai-xuyen-tac-thong-tin-61a666f/