한국, AI 활용해 가짜 선거 영상 탐지

한국 당국은 4월 27일, 한국의 중앙선거관리위원회(NEC)가 6월 3일 조기 대선 기간 동안 가짜 딥페이크 영상 의 확산을 막기 위해 국가과학수사연구원(NFS)이 개발한 가짜뉴스 탐지용 인공지능(AI) 모델을 도입했다고 밝혔습니다.

이 AI 모델의 이름은 Aegis로, 그리스 신화에서 제우스가 사용한 방패의 이름을 따서 지어졌습니다. NEC는 Aegis를 사용해 육안으로는 식별하기 어려운 AI가 만든 정교한 딥페이크 영상을 감지할 예정입니다. 이지스는 NFS와 한국전자부품연구원(KETI)이 공동으로 개발했습니다.

NFS는 KETI가 주관하고 정보통신기술기획평가원의 지원을 받아 지난해 4월부터 연구를 진행해 왔습니다. 이 프로젝트의 이름은 "AI로 인한 사회적 부작용을 방지하기 위한 자체 진화형 딥페이크 감지 기술"입니다.

이지스는 한국경찰대학교, KAIST, 클레온(AI 얼굴 및 음성 생성 회사), 위지윅 스튜디오(영화 제작 회사)가 참여한 사업 2년차에 개발되었습니다. Aegis는 가장 감지하기 어려운 딥페이크 영상도 감지하도록 최적화되어 있습니다.

2024년 1월부터 시행되는 대한민국의 개정 공무원 선거법에 따르면, 선거 목적으로 AI가 생성한 딥페이크 영상을 제작하거나 배포하는 것은 불법입니다. 하지만 최근 들어 주요 대선 후보를 표적으로 삼은 딥페이크 영상이 인터넷에 난무하고 있으며, 그 중 대부분은 명예 훼손이나 중상모략적인 내용을 담고 있습니다. 예를 들어, 더불어민주당(DP) 후보 이재명이 죄수복을 입은 딥페이크 영상이나 국민의힘(PPP) 후보 한동훈이 가발을 벗은 모습이 담긴 딥페이크 영상 등이 있습니다.

4월 9일, NEC는 3단계 탐지 프로세스를 사용하여 가짜 AI 딥페이크에 대한 태스크포스를 출범시켰습니다. 따라서 감독관은 먼저 영상을 시각적으로 점검하게 됩니다. 영상을 구분하기 어려운 경우, Aegis와 같은 AI 모델을 활용해 분석하고, 최종적으로 AI 전문가의 평가를 실시합니다.

NEC 관계자는 "우리는 탐지 정확도가 높은 NFS의 Aegis를 주로 사용하지만 다른 모델과 교차 검증도 실시합니다."라고 말했습니다.

Aegis는 AI 이미지 생성을 위한 최신 방법 중 하나인 확산법을 통해 생성된 출력을 감지하도록 설계되었습니다. AI 이미지 생성 방법에는 생성적 적대 신경망(GAN)과 확산 모델을 포함하여 두 가지 주요 방법이 있습니다. GAN은 두 개의 경쟁하는 신경망을 사용하여 이미지를 빠르게 생성하지만, 생성되는 이미지가 왜곡되는 경우가 많아 감지하기가 더 쉽습니다.

이와 대조적으로, OpenAI의 Midjourney와 DALL-E와 같은 최신 이미지 생성기는 확산 방식(이미지에 인공 노이즈를 추가한 다음 노이즈를 제거하여 고해상도, 고품질 이미지를 생성)을 사용합니다. 따라서 확산법을 통해 생성된 영상은 기존의 검출 기술만을 사용하여 실제 영상과 구별하기가 훨씬 어렵습니다.
Aegis는 확산 방식을 사용하여 생성된 딥페이크 영상도 감지하도록 개선되었습니다.

NFS 관계자는 "이지스는 딥페이크와 딥페이크를 탐지하는 기능뿐만 아니라, 제작된 콘텐츠가 악의적인 목적인지 분석하는 기능도 갖추고 있다"고 밝혔다./.

(베트남 통신/Vietnam+)

출처: https://www.vietnamplus.vn/han-quoc-su-dung-tri-tue-nhan-tao-phat-hien-video-gia-mao-ve-bau-cu-post1035586.vnp