Google DeepMind의 연구에 따르면, AI 챗봇과 같은 도구를 사용하여 잘못된 정보를 만드는 것보다 사람을 사칭하는 이미지, 비디오 , 오디오를 만드는 경우가 거의 두 배나 더 흔합니다.
분석 결과, 합성 AI를 악용하는 행위자들의 가장 흔한 목적은 여론을 형성하거나 영향을 미치는 것으로 나타났으며, 이는 전체 사용 사례의 27%를 차지했다. 이는 딥페이크가 올해 전 세계 선거에 어떤 영향을 미칠 수 있는지에 대한 우려를 불러일으켰다.
총선을 앞두고 리시 수낙 영국 총리 의 가짜 예술 작품이 틱톡과 인스타그램에 등장했습니다. 사진: AFP
최근 몇 달 동안 리시 수낙 영국 총리를 비롯한 세계 지도자들의 딥페이크 영상이 틱톡, X, 인스타그램에 등장했습니다. 영국 유권자들은 다음 주 총선을 위해 투표소로 향합니다.
소셜 미디어에서 이런 콘텐츠에 라벨을 붙이거나 삭제하려는 노력에도 불구하고, 청중은 이를 가짜로 인식하지 못할 수 있으며, 이러한 콘텐츠가 유권자에게 영향을 미칠 수 있다는 우려가 있습니다.
앨런 튜링 연구소의 연구원인 아르디 잔제바는 이 논문의 연구 결과가 "특히 관련성이 높다"고 말하며, AI가 생성한 공공 정보는 " 사회정치적 현실에 대한 우리의 공통된 이해를 왜곡할 수 있다"고 말했습니다.
Janjeva는 "딥페이크가 투표 행동에 미치는 영향이 확실하지 않더라도 이러한 왜곡은 단기적으로 감지하기 어려울 수 있으며 장기적으로 민주주의에 위험을 초래할 수 있습니다."라고 덧붙였습니다.
Google DeepMind의 연구 책임자인 나헤마 마샬 연구원은 "이러한 도구를 사용하여 매우 정교한 사이버 공격이 이루어지고 있다는 점에 대해 많은 우려가 있었습니다."라고 말했습니다.
Google DeepMind와 Jigsaw의 연구진은 2023년 1월부터 2024년 3월까지 소셜 네트워크 X와 Reddit, 온라인 블로그, 미디어의 오용 사례 등 약 200건의 AI 오용 사례를 분석했습니다.
두 번째로 흔한 악용 동기는 수익 창출입니다. 실제 인물의 누드 사진을 촬영하거나 AI를 사용하여 가짜 뉴스 기사와 같은 다양한 콘텐츠를 생성하는 것이 포함됩니다. 대부분의 경우 "최소한의 기술적 전문 지식만 필요한" 접근 가능한 도구가 사용되므로, 많은 악의적인 행위자가 AI를 창의적으로 악용할 수 있습니다.
Ngoc Anh (FT에 따르면)
[광고_2]
출처: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-sach-su-dung-ai-doc-hai-post300851.html
댓글 (0)