이스라엘 군인들이 벽 뒤에서 울고 있는 모습을 담은 것으로 추정되는 영상이 소셜 미디어 플랫폼 X에서 빠르게 확산되며 160만 회 이상의 조회수를 기록했지만, 나중에 인공지능(AI)으로 조작된 영상으로 밝혀졌습니다.
이번 사건은 인공지능 기술이 진짜와 가짜 콘텐츠의 경계를 모호하게 만들어 디지털 정보의 신뢰성에 중대한 문제를 야기한다는 우려를 더욱 증폭시켰습니다.
전문가들에 따르면, 인공지능의 급속한 발전은 가짜 콘텐츠를 식별하는 것을 더욱 어렵게 할 뿐만 아니라 사회에서 정보가 생성되고 확산되는 방식 자체를 변화시키고 있다.
점점 더 복잡해지는 국제 분쟁 속에서 정보의 "전장"은 이제 지상뿐 아니라 사이버 공간에서도 치열하게 펼쳐지고 있다.
독일 국영 방송 ZDF의 조사 결과, 해당 영상에서 여러 가지 이상 현상이 발견되었습니다. 구체적으로, 일부 장면에서는 군인들의 제복에 있는 휘장에 이스라엘 국기가 나타나지만, 다른 장면에서는 사라지고, 휘장에 적힌 글자도 의미가 없는 것으로 나타났습니다. 이는 인공지능이 생성한 영상에서 흔히 볼 수 있는 현상입니다.
게다가 소셜 미디어 사용자들은 의상, 음향, 무기 등에서 수많은 불일치를 발견하여 영상의 진위 여부에 대한 의구심을 더욱 증폭시키고 있습니다.
인공지능이 생성한 콘텐츠의 확산은 전통적인 뉴스 기관의 신뢰성에 직접적인 위협을 가하고 있다.
앞서 ZDF는 검증되지 않은 AI 생성 이미지를 사용한 보도 때문에 뉴욕 지사 기자를 소환한 후 해고한 바 있습니다.
ZDF 편집장 베티나 샤우텐은 언론 윤리 기준을 무시하는 행위가 대중의 신뢰를 심각하게 손상시킬 수 있다고 경고했다.
인공지능은 단순히 가짜 콘텐츠를 만드는 것을 넘어, 더욱 정교한 방식으로 사회적 인식을 형성할 잠재력을 가지고 있습니다.
국제 연구진은 인공지능(AI) 군집, 즉 실제 사용자를 사칭하여 허위 정보를 퍼뜨리는 조직적인 가짜 계정 네트워크의 등장으로 이 기술이 새로운 국면에 접어들고 있다고 경고합니다.
콘스탄츠 대학교의 사회 데이터 연구원인 데이비드 가르시아에 따르면, 개인이나 조직이 제어할 수 있는 이러한 시스템은 기억력, '정체성' 유지, 인간 행동 모방 능력을 갖추고 있습니다. 또한 공통의 목표를 달성하기 위해 동기적으로 작동하며, 언어, 어조, 반응을 실시간으로 조정할 수 있습니다. 이는 '사회적 합의의 착각'을 만들어내어, 실제로는 다수가 지지하지 않는 견해라도 마치 다수의 지지를 받는 것처럼 보이게 합니다.
증가하는 위험에 직면하여 연구자들과 기관들은 탐지 및 제어 솔루션을 강화하고 있습니다. 일부 전문가들은 AI 네트워크를 조기에 식별하기 위해 비정상적인 조직적 패턴을 기반으로 콘텐츠를 검사해야 한다고 제안합니다. 동시에 정보 공간을 보호하기 위해서는 AI가 생성한 계정에 대한 모니터링 강화와 투명성 제고 또한 필수적이라고 여겨집니다.
독일의 인공지능(AI) 연구센터는 "먼저 확인하고 현명하게 투표하세요"라는 딥페이크 탐지 프로젝트를 시작했습니다. 이 도구를 사용하면 사용자가 소셜 미디어에서 의심스러운 이미지를 제출할 수 있으며, 시스템은 이를 분석하여 조작 또는 AI 생성 가능성을 평가합니다.
전문가들에 따르면, 조작되거나 가짜 콘텐츠에 대한 노출이 증가하는 상황에서 정보를 평가하고 검증하는 능력은 필수적인 역량이 되고 있습니다. 인식 개선과 정확한 정보 접근성 향상은 인공지능 기술이 현대 사회에 미치는 부정적인 영향을 완화하는 데 중요한 요소로 여겨집니다.
출처: https://www.vietnamplus.vn/ai-lam-mo-ranh-gioi-that-gia-dat-thach-thuc-lon-cho-thong-tin-so-post1100028.vnp
댓글 (0)