딥페이크는 '딥러닝'과 '페이크'를 합친 용어입니다. 간단히 말해, 가짜 오디오, 이미지, 심지어 비디오 까지 시뮬레이션하고 제작하는 기술입니다.
인공지능 (AI) 의 폭발적인 발전 이후, 딥페이크 문제가 점점 더 심각해지면서 언론에 허위 정보가 급속도로 유포되고 있습니다. 따라서 이미지와 영상의 출처를 사전에 확인하는 것은 세계 유수의 카메라 제조업체들에게 시급한 과제입니다.
소니, 캐논, 니콘은 미러리스 카메라(또는 DSLR 디지털 카메라)에 디지털 서명을 직접 지원하는 디지털 카메라를 출시할 것으로 예상됩니다. 카메라에 디지털 서명을 구현하려는 노력은 이미지의 원본과 무결성을 입증하는 매우 중요한 조치입니다.
이러한 디지털 서명에는 날짜, 시간, 위치, 사진 작가에 대한 정보가 포함되며 변조 방지 기능이 있습니다. 특히 사진 기자 등 인증이 필요한 업무에 종사하는 전문가에게 매우 중요합니다.
카메라 업계의 세 거대 기업이 온라인 검증 도구인 Verify와 호환되는 디지털 서명에 대한 글로벌 표준에 합의했습니다. 글로벌 언론사, 기술 기업, 카메라 제조업체들이 연합하여 출시한 이 도구는 모든 이미지의 진위 여부를 무료로 검증할 수 있도록 지원합니다. AI를 사용하여 이미지를 생성하거나 수정하는 경우 Verify는 해당 이미지를 '콘텐츠 검증 안 함'으로 표시합니다.
딥페이크 방지 기술의 중요성은 전 미국 대통령 도널드 트럼프와 일본 총리 기시다 후미오 등 유명 인사의 딥페이크 영상이 급증하면서 생겨났습니다.
또한, 중국 청화대학교의 연구진은 하루에 약 70만 개의 이미지를 생성할 수 있는 새로운 생성 AI 모델을 개발했습니다.
카메라 제조업체 외에도 다른 기술 기업들도 딥페이크와의 전쟁에 동참하고 있습니다. 구글은 AI가 생성한 이미지에 디지털 워터마크를 추가하는 도구를 출시했고, 인텔은 사진의 피부색 변화를 분석하여 진위 여부를 판별하는 기술을 개발했습니다. 히타치 또한 온라인 신원 사기를 방지하는 기술을 개발하고 있습니다.
새로운 기술은 2024년 초에 출시될 예정입니다. 소니는 이 기술을 언론에 홍보할 계획이며 이미 2023년 10월에 현장 시험을 실시했습니다. 캐논은 Thomson Reuters와 Starling Data Preservation Lab(스탠퍼드 대학교와 남가주 대학교가 설립한 연구소)과 협력하여 이 기술을 더욱 개선하고 있습니다.
카메라 제조업체들은 이 새로운 기술이 이미지에 대한 대중의 신뢰를 회복하는 데 도움이 되기를 바라고 있으며, 이는 결국 세상에 대한 우리의 인식을 형성하는 데 도움이 되기를 바랍니다.
(OL에 따르면)
페이스북에 딥페이크 투자 사기 영상 유포에 5,000달러 지불
새로운 악성코드가 스마트폰을 장악하고, 딥페이크 영상이 더욱 정교해지고 있다
딥페이크 영상이 점점 더 정교하고 사실적으로 변하고 있습니다.
송금을 사기하는 딥페이크 영상 통화의 함정에 빠지지 않으려면 어떻게 해야 할까?
딥페이크는 포르노 영상에 피해자의 얼굴을 넣기 위해 악용되고 있습니다.
[광고_2]
원천
댓글 (0)