딥페이크가 만연하고 있는데, 생체 인증만으로 AI 사기를 막을 수 있을까?

딥페이크 - 사진 1.

베트남에서는 얼굴 인증이 매우 널리 사용되고 있습니다. - 사진: QUANG DINH

얼굴, 목소리, 심지어 실시간 영상 통화까지... 너무나 설득력 있게 위조되어 기존 보안 조치를 우회할 수 있습니다.

MILKO RADOTIC 씨(iProov 아시아 태평양 지역 담당 부사장)

생성 인공지능(AI)과 딥페이크는 허위 정보뿐만 아니라 사기까지 야기하고 있습니다. 이러한 도구를 통해 범죄자들은 수천 개의 그럴듯한 가짜 신원을 대량으로 만들어내 동일한 사기를 여러 번 저지를 수 있습니다.

이는 세계 최고의 생체 인증 기술 공급업체 중 하나인 iProov의 아시아 태평양 지역 담당 부사장인 밀코 라도틱(Milko Radotic) 씨의 의견입니다. 그는 Tuoi Tre와의 인터뷰에서 이렇게 말했습니다.

* AI와 그 응용 프로그램의 발전에 따라 가까운 미래에 베트남 사용자들이 사이버 공간에서 직면하게 될 가장 무서운 위협은 무엇이라고 생각하십니까?

- 가까운 미래에 베트남이 직면할 가장 심각한 위험 중 하나는 합성 신원 사기입니다. 범죄자들이 실제 사람의 정보를 훔치는 전통적인 신원 도용과 달리, 사기꾼들은 이제 이름, 주소, 주민등록번호와 같은 데이터를 사용하여 존재하지 않는 완전히 새로운 신원을 만들어냅니다.

이러한 가짜 신원은 계좌 개설, 신용 신청, 또는 국경 간 자금 이체에 악용될 수 있습니다. 이러한 위협이 심각한 이유는 감지하기가 매우 어렵기 때문입니다. 가짜 신원은 "반은 진짜"이고 "반은 가짜"이기 때문에 은행과 플랫폼에서 사용하는 많은 확인 절차를 우회할 수 있습니다.

또한, 얼굴, 음성, 심지어 실시간 화상 통화까지 너무나 사실적으로 위조해 기존 보안 조치를 우회할 수 있는 첨단 딥페이크 기술이 등장하고 있습니다.

딥페이크 - 사진 2.

iProov 아시아 태평양 지역 부사장 Milko Radotic 씨

* 사용자는 콘텐츠(사진, 비디오, 기사 등)가 AI에 의해 생성되었는지 구별할 수 있나요?

- 현실은 대부분의 사람들이 딥페이크를 인식하지 못한다는 것입니다. iProov의 조사에 따르면, 참가자의 99.9%가 딥페이크를 인식하지 못했습니다.

고급 탐지 도구조차도 제대로 작동하지 않습니다. 실제 환경에서 테스트했을 때, 자동화된 딥페이크 탐지 도구의 정확도는 실험실 환경에서의 정확도의 절반에 불과했습니다.

예를 들어, 어떤 도구는 AI가 생성한 이미지는 발견하지만, 얼굴이 바뀐 영상은 전혀 발견하지 못할 수 있습니다. 마찬가지로, 유명 인사를 대상으로 훈련된 시스템은 정치인이나 유명인에게는 효과적일 수 있지만, 디지털 흔적이 거의 없는 일반인에게는 적합하지 않을 수 있습니다.

이는 사실상 군비 경쟁과 같습니다. 탐지 기술이 향상되자마자 사기꾼들은 즉시 적응하기 때문입니다.

* 인공 AI와 딥페이크의 위협을 식별하고 방어하는 능력을 어떻게 향상시킬 수 있을까요?

- 베트남 사용자의 경우, 최선의 방어책은 건전한 회의주의를 갖는 것입니다. 상사, 은행 또는 가족과 화상 통화를 하더라도 무언가 잘못되었다고 느껴지면 잠시 멈추고 다른 신뢰할 수 있는 채널을 통해 확인하세요. 화면에서 보거나 듣는 것에만 의존하지 마세요.

더 강력한 보안을 구축해야 할 책임은 사용자에게 있는 것이 아니라 조직 차원에서 져야 합니다. 예를 들어, 은행과 플랫폼은 사용자가 실제 사용자이고, 적법한 사용자이며, 그 순간에 물리적으로 존재하는지 확인하기 위해 생체 인식 인증과 활동 감지 기능을 도입하고 있습니다.

이는 딥페이크 사기가 대규모로 성공하는 것을 방지하는 데 도움이 되는 보호 장치입니다.

* 베트남에서 널리 적용되고 있는 생체인증 기술도 효과적인 방어 솔루션이 될 수 있을까요?

- 베트남은 생체 인증 적용 분야에서 상당히 앞서 있다고 할 수 있습니다. 1억 2천만 건 이상의 개인 기록과 120만 건 이상의 기업 고객 계좌가 인증되었습니다. 은행들도 사기 발생률이 크게 감소하고 있습니다. 이러한 성장률은 매우 인상적입니다. 하지만 여전히 해결해야 할 과제가 남아 있습니다.

AI 기반 사기가 더욱 정교해짐에 따라, 기술은 앞서 나가기 위해 끊임없이 발전해야 합니다. 생체 인식, 특히 안면 인식은 강력한 보안과 원활한 사용자 경험을 결합하는 고유한 강점을 가지고 있습니다. 이러한 균형은 사용자 신뢰를 구축하고 도입을 촉진하는 데 매우 중요합니다.

* 생체인증에 대한 대중의 인식을 높이고 사용자들 사이에서 적용 범위를 확대하기 위해 어떤 전략이 필요하다고 생각하시나요?

- 베트남에서는 생체 인증에 대한 신뢰와 수용도가 빠르게 높아지고 있습니다. 대부분의 사람들이 이미 얼굴이나 지문으로 휴대폰 잠금을 해제하고 있기 때문에 이러한 관행이 은행권으로 확대되는 것은 당연한 일입니다.

디지털 뱅킹의 급속한 성장과 정부의 강력한 지원에 힘입어, 우리는 많은 인접 시장보다 사용자 편의성 수준이 더 빠르게 높아지는 것을 볼 수 있습니다.

하지만 지금의 과제는 규모입니다. 생체 인증은 기술에 능숙한 사람들뿐만 아니라 노년층, 디지털 리터러시가 낮은 사람들, 그리고 스마트폰을 기본적으로 사용하는 사람들도 사용할 수 있어야 합니다.

더 폭넓은 신뢰를 구축하기 위한 세 가지 핵심 전략이 있습니다. 첫째, 생체 인식 시스템은 모든 연령과 능력을 가진 사람들을 포용하는 디자인을 바탕으로 여러 기기와 사용자에 걸쳐 작동해야 합니다. 인증은 간단하고 빠르며 직관적이어야 하며, 마찰이 없어야 합니다.

은행과 규제 기관은 실제 사례를 들어 사용자에게 더 빠른 로그인부터 입증된 사기 감소까지 실질적인 이점을 보여줘야 합니다.

목표는 생체 인식을 단순한 보안 기능이 아닌, 온라인에서 상호작용하는 가장 자연스럽고 신뢰할 수 있는 방식으로 만드는 것입니다. 이러한 목표가 달성되면 생체 인식 도입은 자연스럽게 확대될 것입니다.

그 결과는 매우 심각합니다.

세계법정회계사협회(Global Association of Forensic Accountants)에 따르면, 전 세계적으로 딥페이크 사건은 2023년에서 2025년 사이에 10배 증가할 것으로 예상되며, 이는 2년 만에 900% 이상 증가한 수치입니다. 그 결과는 심각합니다. 딜로이트는 AI 기반 사기로 인해 2027년까지 은행과 고객들이 최대 400억 달러의 손실을 입을 것으로 추산합니다.

베트남에서는 생성적 AI와 딥페이크 기술의 위협이 커지고 있으며, 그 양상도 더욱 뚜렷해지고 있습니다. 2024년 정보보안부(구 정보통신부)는 22만 건이 넘는 온라인 사기 및 사기 신고를 접수했는데, 이 중 대부분은 금융 및 은행업과 관련된 것이었습니다. 실제로 점점 더 많은 소비자가 디지털 거래를 우선시함에 따라 베트남은 매력적인 타깃이 되었습니다.

단 한 건의 사기도 가족의 저축을 탕진하거나 디지털 뱅킹 인프라에 대한 신뢰를 훼손하는 등 파괴적인 결과를 초래할 수 있습니다. 그렇기 때문에 금융 포용성에 신뢰가 필수적입니다.

첨단 생체인증 기술을 사용해야 합니다.

밀코 라도틱에 따르면, 도난당한 신원, 유출된 계좌, 민감한 데이터에 대한 무단 접근, 대규모 사기는 금융 포용과 디지털 성장의 기반인 디지털 금융 시스템에 대한 대중의 신뢰를 침식할 수 있습니다.

이것이 바로 베트남의 은행과 플랫폼이 한발 앞서 나가야 하는 이유입니다. 기본적인 비밀번호나 OTP 코드만으로는 더 이상 충분하지 않습니다. 실시간 생체 인식 기능을 갖춘 첨단 생체 인증 기술로 전환하여 해당 사용자가 실제 사용자인지, 적법한 사용자인지, 그리고 현재 접속 중인지 확인해야 합니다.

밀코 라도틱은 "이러한 조치는 지속적인 보안 업그레이드와 결합되어 빠르게 진화하는 위협보다 한발 앞서 나가는 데 도움이 됩니다."라고 말했습니다.

주제로 돌아가기

덕

출처: https://tuoitre.vn/deepfake-lan-tran-xac-thuc-sinh-trac-hoc-co-du-chong-lua-dao-bang-ai-20251016231113396.htm