하노이 협약, 전문가들이 AI 과제에 대한 '디지털 면역' 제안

중령이자 박사 학위를 소지한 범죄학자 다오 쭝 히에우는 인공지능(AI)의 발전이 사람들이 정보를 생성하고, 받고, 검증하는 방식을 근본적으로 변화시키고 있다고 말했습니다. 딥페이크, 합성 음성, 인공 이미지와 같은 기술은 진짜와 가짜의 경계를 그 어느 때보다 모호하게 만들고 있습니다.

범죄학 전문가 Dao Trung Hieu 중령 박사. 사진 : NVCC.

유로폴 통계(2024년)에 따르면, 현재 온라인 콘텐츠의 약 90%가 다양한 수준에서 AI 개입이 이루어지고 있으며, 그 중 15%는 의도적인 위조 징후가 나타납니다.

베트남 공안부는 AI를 이용해 친척, 은행 직원 또는 국가 기관을 사칭해 재산을 횡령한 일련의 범죄 사건을 기록했으며, 어떤 사건은 최대 수십억 동에 달하는 손실을 초래했습니다.

우려되는 것은 물질적 피해뿐만 아니라 모든 인간관계의 근간인 사회적 신뢰가 약화되고 있다는 점입니다. 진실이 재창조될 수 있을 때, 모든 사회관계의 근간인 신뢰가 첫 번째 공격 대상이 되었습니다.

"위의 현상은 단순히 범죄 도구의 변형이 아니라 범죄 행위 공간의 재구성으로, 무형성, 국경 간, 익명성, 자기 학습이라는 완전히 새로운 특징을 보입니다."라고 다오 중히에우 대령은 말했습니다.

AI 시대의 범죄행위구조 변화

다오 쭝 히에우 중령은 AI 시대의 범죄는 더 이상 물리적 공간에 국한되지 않는다고 말했습니다. 범죄 행위는 데이터 모델, 알고리즘, 그리고 자동 생성 시스템을 통해 수행되며, 개인이나 조직은 모든 유형의 정보의 진위를 위조할 수 있습니다.

전통적인 범죄에서 물리적 흔적(증거, 범죄 현장, 목격자)이 주요 근거라면, 첨단 범죄에서는 디지털 흔적이 핵심입니다. AI는 범죄자들이 두 가지 위험한 능력을 발휘하도록 돕습니다. 하나는 존재하지 않는 것을 믿게 만드는 합성 현실이고, 다른 하나는 행위의 근원을 찾기 어렵게 만드는 귀인 침식입니다.

범죄학적 관점에서 볼 때, 범죄의 네 가지 요소의 구조에 변화가 생긴 것을 볼 수 있습니다.

첫째, 주체는 더 이상 개인이 아니라 자동화된 시스템이나 원격으로 제어하는 사람들의 그룹이 될 수 있습니다.

둘째, 침해된 대상은 재산, 명예, 데이터뿐만 아니라 사회적 신뢰이기도 합니다. 사회적 신뢰는 무형의 가치이지만 근본적인 중요성을 지닙니다.

셋째, 범죄를 저지르는 수단은 프로그램되어 있고, 스스로 학습하며, 통제하기 어렵고, 무한정 복제가 가능합니다.

넷째, 사회적 피해는 경제적 피해에 그치지 않고 심리적 피해, 도덕성 피해, 국가 안보 피해로 확대됩니다.

히에우 씨는 "따라서 인공지능은 인간의 창의성과 생산을 지원할 뿐만 아니라, 일탈 행동을 재구성하여 '디지털 범죄학'이라는 개념을 현대 범죄 과학 의 새로운 연구 방향으로 만듭니다."라고 말했습니다.

기존 조사에서 데이터 공간 조사로 전환

히에우 씨는 AI 기반 범죄의 등장으로 수사 기관의 업무 모델 혁신이 불가피하다고 말했습니다. 사건 발생 후 수사하는 대신, 동시다발적으로 데이터를 조사하고, 범죄 행위가 발생하는 순간 정보의 흐름을 수집하고 분석해야 합니다.

디지털 포렌식의 '디지털 지문'과 유사하게 각 생성 모델의 특정 특징을 검색할 수 있는 AI 추적 분석과 같은 기술이 연구되고 있습니다.

베트남에서는 공안부 산하 전문 부서가 기술 기업과 협력하여 AI가 생성한 음성, 얼굴 및 비디오 인식 샘플 데이터베이스를 구축했습니다.

이와 함께 법적 기반도 개선되어야 합니다. 형법 개정 연구 항목에 "인공지능을 이용한 범죄"를 추가하는 동시에, AI 시스템 소유자 및 운영자의 책임에 대한 구체적인 규정이 마련되어야 합니다.

더 중요한 것은 "범인 추적"이라는 사고방식에서 "선제적 예방"이라는 사고방식으로 전환하는 것입니다. 가짜 영상이 공식 발표보다 더 빠르게 확산될 수 있는 시대에, 국가, 기업, 지역 사회를 포함한 모든 당사자들이 신속하게 대응하고 협력하는 능력이 핵심 요소가 됩니다.

디지털 면역, AI 시대의 '항체'

다오 중령 박사가 강조한 개념은 "디지털 면역"입니다. 이는 사회가 가짜 정보를 스스로 식별하고 대응할 수 있는 능력을 의미합니다. 그는 디지털 면역을 구축하기 위해서는 세 가지 해결책을 통합해야 한다고 주장합니다.

사이버범죄에 관한 유엔 협약 서명식이 10월 25일 하노이에서 열렸습니다. 사진: 정부.

첫째, 통제와 혁신 사이의 균형을 보장하는 유연하고 진화적인 법적 통로를 구축해야 합니다. 법은 AI를 "틀"로 삼아서는 안 되지만, 기술의 급격한 변화에 적응할 수 있도록 유연해야 합니다. 동시에 AI를 사용하는 개인이나 조직은 자신이 만든 제품에 대해 책임을 져야 한다는 이중 책임 원칙을 준수해야 합니다.

둘째, 디지털 출처 인증 표준(AI 워터마크, 출처 코드)을 통해 AI 생성 콘텐츠에 대한 국가 식별 메커니즘을 구축해야 합니다. 디지털 플랫폼은 AI 생성 콘텐츠에 라벨을 부착하거나 검증하여 사용자가 수신 단계부터 진위 여부를 구별할 수 있도록 해야 합니다.

셋째, 교육과 소셜 미디어는 장기적인 방어선입니다. 법은 행동을 규제할 수 있지만, 교육만이 인식을 규제할 수 있습니다. 데이터 보안, 가짜 뉴스 식별 기술, 그리고 기술 윤리에 대한 지식을 교양 교육과 대학 교육 과정에 통합하면 "디지털 항체"를 가진 시민 계층, 즉 안전한 사회를 위한 지속 가능한 기반을 조성할 수 있습니다.

히에우 씨에 따르면, 인공지능은 기술적 진보일 뿐만 아니라 인간성에 대한 도덕적, 법적 시험이기도 합니다. 기계가 진실을 재현할 수 있게 되면, 인간은 프로그래밍할 수 없는 유일한 신념을 보호하는 법을 배워야 합니다.

베트남은 유연한 법적 틀을 구축하고, AI 범죄 예방을 위한 공공-민간 협력을 강화하고, 국민을 위한 디지털 면역 교육을 홍보하는 등 적극적으로 주도해야 합니다.

"인공지능 시대의 안전한 사회는 강력한 방화벽을 갖춘 사회가 아니라, 시민들의 경계가 가장 높은 사회입니다. 데이터가 디지털 시대의 연료라면 신뢰는 엔진과 같습니다. 신뢰가 없으면 아무리 기술이 발전해도 어떤 시스템도 무너질 수 있습니다."라고 범죄학자는 강조했습니다.

10월 25일, 하노이에서 "사이버 범죄 퇴치 - 책임 공유 - 미래 전망"을 주제로 유엔 사이버 범죄 방지 협약 서명식이 열렸습니다. 하노이 협약은 사이버 범죄 대응을 위한 공동 노력을 조율하는 최초의 국제 법적 틀을 구축하는 데 중요한 단계로 여겨집니다. 이는 국제 사회뿐만 아니라 국제 사회에서 베트남의 역할과 입지를 확고히 하는 역사적인 이정표입니다.

출처: https://khoahocdoisong.vn/cong-uoc-ha-noi-chuyen-gia-de-xuat-mien-dich-so-truoc-thach-thuc-ai-post2149063689.html