앞서 언급된 문제는 4월 7일 미국 국가사이버보안협회(NCA)가 주최한 워크숍 "인공지능 시대의 보안 - 디지털 미래를 위한 전략"에서 제기되었습니다.
이번 컨퍼런스에서 전문가들은 AI가 혁신과 운영 최적화의 원동력일 뿐만 아니라, 데이터 시스템이 점점 더 상호 연결되고 복잡해짐에 따라 의도치 않게 새로운 보안 취약점을 만들어낸다고 평가했습니다.
베트남에서는 사이버보안법, 2030년까지의 AI 전략, 그리고 새로운 관리 지침을 통해 사이버보안 및 AI 관련 법적 체계를 완비하고 있으며, 특히 AI가 국가 디지털 인프라의 핵심 요소로 자리매김함에 따라 기술 수명주기 전반에 걸쳐 안전, 투명성, 책임성을 강조하고 있습니다.
이번 컨퍼런스에서 공안부 사이버보안 및 첨단범죄예방국 부국장인 응우옌 홍 콴 대령(박사)은 인공지능 (AI)이 사이버 위협의 방식과 성격을 근본적으로 바꾸고 있다고 밝혔습니다. 과거에는 사이버 범죄자들이 주로 전통적인 기술과 도구에 의존했지만, 오늘날에는 AI의 지원을 받아 전례 없는 규모와 정교함으로 공격을 자동화할 수 있게 되었습니다. 사기 수법은 더욱 개인화되고, 딥페이크 기술을 이용한 위조품은 식별하기가 점점 더 어려워지고 있으며, 악성 소프트웨어는 방어 시스템을 회피하도록 진화하고 있습니다. 베트남에서는 이러한 추세가 잠재적 위협이 아니라, 가짜 은행 브랜드 메시지를 이용한 사기, 자산을 탈취하기 위한 가짜 애플리케이션, 신뢰를 구축하고 송금을 요구하는 음성 및 이미지 변조 기술을 사용한 전화 사기 등 명백하게 드러나는 사례들을 통해 확인할 수 있습니다. 특히, 이러한 범죄자들은 공립 기관을 사칭하고, 정교한 시나리오를 사용하며, 유출된 개인 정보를 악용하여 피해자에게 심리적 압박을 가합니다. 이러한 수법들은 기술과 인간 행동 조작이 점점 더 긴밀하게 결합되고 있음을 보여줍니다.
응우옌 홍 콴 대령은 “인공지능은 단순한 도구를 넘어 사이버 보안 및 국가 안보 환경을 재편하는 중요한 요소가 되고 있다. 인공지능 기술을 선제적으로 파악하고 숙달하며 안전성을 확보하는 것이 각국의 지속 가능하고 안전한 미래 발전을 위한 결정적인 요인이 될 것”이라고 강조했다.
베트남 중앙은행 부총재이자 국가보안청(NCA) 부청장인 팜 티엔 둥(Pham Tien Dung) 씨는 베트남이 디지털 시대에 도약할 수 있는 절호의 기회를 맞이하고 있다고 강조했습니다. 그러나 이러한 기회를 활용하기 위해서는 혁신과 보안 및 안전이 조화를 이루고, 발전이 항상 위험 관리와 연계되는 견고한 사이버 보안 기반이 필요하다고 덧붙였습니다.
"기존의 보안 방식은 차세대 위협에 직면하여 한계를 드러내고 있습니다. 따라서 두 가지 접근 방식이 병행되어야 합니다. 한편으로는 AI를 안전하고 신뢰할 수 있으며 통제된 방식으로 설계, 배포 및 운영해야 하고, 다른 한편으로는 AI를 사이버 보안 방어 역량을 강화하는 도구로 활용해야 합니다."라고 Dung 씨는 분석하며, AI 생태계 구축은 단순히 기술에 관한 것이 아니라 초기 시스템 설계 단계부터 전체 사용 및 운영 과정에 걸쳐 데이터 거버넌스, 위험 관리 및 사이버 보안 보장이 필요하다고 덧붙였습니다.
국제적인 관점에서 볼 때, 전 세계 10만 개 이상의 조직을 보호하는 사이버 보안 부서인 체크포인트 소프트웨어 테크놀로지스의 아시아 태평양 및 일본 지역 사장인 루마 발라수브라마니안은 현재 AI 관련 위협을 데이터 유출, 명령줄 공격(부적절한 명령 주입), 프로세스 간섭의 세 가지 범주로 나눌 수 있다고 밝혔습니다. 이러한 위협은 이메일을 통한 공격과 같은 기존의 위협보다 규모와 속도 면에서 훨씬 더 큽니다.
이러한 상황을 해결하기 위해 전문가는 직원들이 사용하는 AI 도구를 관리(섀도우 AI 방지), 명확한 사용 정책 수립, 데이터 유출 방지 등을 포함하는 포괄적인 접근 방식을 제안합니다. 동시에 AI 모델이 설계대로 작동하는지 확인하고 안전성을 검증하기 위한 "레드팀" 테스트를 시행하는 것이 중요합니다.
인공지능(AI)은 단순한 도구를 넘어 사이버 보안 및 국가 안보 환경을 재편하는 핵심 요소로 자리매김하고 있습니다. 미래에 각국이 지속 가능하고 안전한 발전을 이루기 위해서는 AI 기술을 적극적으로 수용하고, 숙달하고, 안전하게 보호하는 것이 매우 중요합니다.
출처: https://daidoanket.vn/an-toan-khong-gian-mang-va-nhung-thach-thuc.html
댓글 (0)