정치적 딥페이크는 악의적인 AI 사용자 목록에서 가장 높은 순위를 차지합니다.

구글 딥마인드의 연구에 따르면, 가짜 사람 이미지, 동영상 , 음성을 제작하는 것은 AI 챗봇과 같은 도구를 사용하여 허위 정보를 유포하는 것보다 거의 두 배나 더 흔한 것으로 나타났습니다.

분석 결과, 인공지능을 악용하는 행위자들의 가장 흔한 목표는 여론을 조작하거나 영향을 미치는 것으로 나타났습니다. 이는 전체 사용 사례의 27%를 차지하며, 딥페이크가 올해 전 세계 선거에 미칠 수 있는 영향에 대한 우려를 불러일으킵니다.

영국 총선을 앞두고 리시 수낙 영국 총리를 묘사한 가짜 그림이 틱톡과 인스타그램에 등장했다. 사진: AFP

최근 몇 달 동안 틱톡, X, 인스타그램 등에서 리시 수낙 영국 총리를 비롯한 세계 지도자들의 딥페이크 영상이 등장했습니다. 영국 유권자들은 다음 주 총선에서 투표할 예정입니다.

소셜 미디어 플랫폼들이 그러한 콘텐츠에 라벨을 붙이거나 삭제하려는 노력에도 불구하고, 사용자들이 그것을 가짜로 인식하지 못하고 확산되어 유권자들에게 영향을 미칠 수 있다는 우려가 제기되고 있습니다.

앨런 튜링 연구소의 연구원인 아르디 얀예바는 이 논문의 결과가 "특히 중요하다"고 평가하며, 인공지능이 생성한 공공 정보가 "사회 정치적 현실에 대한 우리의 공통된 이해를 왜곡할 수 있다"고 지적했다.

얀예바는 "딥페이크가 투표 행태에 미치는 영향에 대해 확신할 수 없더라도, 이러한 왜곡은 단기적으로 감지하기 어려울 수 있으며 장기적으로 민주주의에 위험을 초래할 수 있다"고 덧붙였다.

구글 딥마인드의 연구 책임 저자인 나헤마 마르샬은 "이러한 도구들이 만들어낼 수 있는 상당히 정교한 사이버 공격에 대한 우려가 많았습니다."라고 말했습니다.

구글 딥마인드와 직소의 연구원들은 2023년 1월부터 2024년 3월까지 소셜 미디어 플랫폼인 X와 레딧, 온라인 블로그 및 언론 보도에서 수집한 약 200건의 AI 오용 사례를 분석했습니다.

이러한 악용의 두 번째로 흔한 동기는 금전적 이득을 취하는 것인데, 여기에는 실제 인물의 나체 이미지를 제작하거나 AI를 이용해 가짜 뉴스 기사와 같은 다양한 유형의 콘텐츠를 생성하는 행위가 포함됩니다. 대부분의 경우 "최소한의 기술적 전문 지식만 요구하는" 쉽게 구할 수 있는 도구를 사용하기 때문에 많은 악의적인 사용자들이 AI를 창의적으로 오용할 수 있습니다.

응옥 안 (FT에 따르면)

출처: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html