AI 보안: 양날의 검

인공지능(AI)은 삶의 모든 측면을 변화시키고 있으며, 사이버 보안 또한 예외는 아닙니다. 그러나 이 기술의 급속한 발전은 커다란 역설을 제기합니다. 바로 AI가 가장 견고한 방어막이면서도 가장 위험한 공격 무기라는 것입니다. "AI가 당신을 해킹한다(AI Hack You)"라는 주제로 열린 BSides 하노이 2025 행사에서 주요 전문가들은 이 양날의 검의 본질을 분석하고, 새로운 시대의 사이버 전쟁에 대한 파노라마를 그려냈습니다.

국가사이버보안협회 부사무총장 겸 사무국장인 부 주이 히엔(Vu Duy Hien) 씨에 따르면, AI는 현재 여러 분야에서 개인과 기업을 지원하고 업무를 더 빠르고 효과적으로 처리하는 데 도움을 주는 매우 중요한 기술 중 하나입니다. 그러나 사이버 보안 분야에서 AI는 양날의 검과 같습니다.

AI - 스마트 '보디가드'

AI가 사이버 보안 산업에서 큰 발전을 이루고 있다는 것은 부인할 수 없습니다. "긍정적인 측면은 AI가 공격을 조기에 탐지하고, 데이터를 분석하고, 네트워크 방어를 강화하는 데 도움이 된다는 것입니다. AI 덕분에 개발된 많은 스마트 보안 도구들이 위협 대응 시간을 크게 단축했습니다."라고 Vu Duy Hien 씨는 단언했습니다.

워크숍에 참석한 국가 사이버 보안 협회 부사무총장 겸 사무국장인 Vu Duy Hien 씨.

이러한 힘은 비영리 네트워크 안티피싱(Anti-Phishing)의 회원인 후인 응옥 칸 민(Huynh Ngoc Khanh Minh) 씨의 공유를 통해 분명히 드러납니다. 그녀는 과거에는 안티피싱 작업이 주로 수작업에 의존했기 때문에 전문가들이 의심스러운 링크를 하나하나 확인해야 했고, 이로 인해 하루에 수만 건의 신고가 엄청나게 지연되었다고 말했습니다.

이러한 한계를 극복하기 위해 사기 방지팀은 새로운 AI 도구를 개발했습니다. Khanh Minh 씨 는 "사용자가 링크만 붙여넣으면 AI가 30초에서 1분 안에 최대 98%의 정확도로 결과를 자동으로 확인하고 표시합니다 ."라고 말했습니다. " 이 덕분에 확인 시간이 이전보다 수십 배 단축되어 온라인 사기 위험을 효과적으로, 그리고 완전히 무료로 사전에 감지하고 예방할 수 있습니다."

전 세계적으로 주요 사이버 보안 플랫폼들도 AI를 심층적으로 통합하고 있습니다. Darktrace 시스템은 자가 학습 AI를 사용하여 기업을 위한 "면역 시스템"을 구축하여 알려지지 않은 공격의 징후일 수 있는 가장 작은 이상 징후까지 자동으로 감지합니다. 마찬가지로 CrowdStrike Falcon 플랫폼은 알려진 악성코드 "시그니처"에만 의존하는 대신 머신 러닝과 행동 분석을 활용하여 정교한 공격을 차단합니다.

이러한 도구는 AI가 사이버 보안 전문가가 사후 대응에서 사전 대응으로 전환하여 피해를 입히기 전에 위협을 차단하는 데 어떻게 도움이 되는지 보여줍니다.

AI - 악당의 손에 든 무기

동전의 다른 면 역시 놀랍습니다. 바로 AI의 뛰어난 역량이 사이버 범죄자들이 탐내는 도구로 변모했습니다. 부 주이 히엔 씨는 이렇게 지적했습니다. "한편, 사이버 범죄자들은 AI를 활용하여 기존 방어 체계의 여러 계층을 무력화할 수 있는 더욱 정교한 공격 방식을 개발하고 있습니다. 그 결과 사이버 공격의 속도, 규모, 정확도가 획기적으로 향상되었습니다."

고도로 개인화된 피싱 공격: 해커는 대규모 언어 모델(LLM)을 사용하여 각 대상에 적합한 자연어와 맥락을 담은 일련의 이메일과 메시지를 만들어 가장 조심스러운 사용자조차도 속아넘어갈 수 있습니다.

딥페이크의 부상: 사이버 범죄자들은 CEO의 음성이나 영상을 위조하여 긴급 자금 이체를 요청할 수 있습니다. 한 유명한 사례는 범죄자들이 AI를 사용하여 영국 에너지 회사 CEO의 음성을 위조하여 24만 3천 달러를 사취한 사건입니다.

다형성 맬웨어: AI를 사용하면 감염 후 소스 코드를 자동으로 변경할 수 있는 맬웨어를 만들 수 있으며, 이를 통해 기존 바이러스 백신 소프트웨어가 효과가 없게 됩니다.

공격 프로세스 자동화: 해커는 AI를 배포하여 수백만 개의 시스템의 취약점을 자동으로 스캔하고, 분산 서비스 거부(DDoS) 공격을 수행하거나, 엄청난 속도로 비밀번호를 해독하여 공격 규모를 몇 배나 확대할 수 있습니다.

인간적 요소와 끝없는 경쟁

이러한 현실에 직면하여 전문가들은 AI 시대의 사이버 보안 전쟁이 "좋은 AI"와 "나쁜 AI"의 경쟁이라는 데 동의합니다. 그리고 이 경쟁의 핵심에는 인적 요소가 더욱 중요해집니다.

베트남 사이버 보안 주식회사(VSEC)의 쯔엉 득 르엉 회장은 22년간의 경험을 통해 베트남 사이버 보안 팀과 전 세계가 협력하고 심층적인 지식을 공유할 기회가 부족하다는 것을 깨달았다고 말했습니다. 국제 보안 커뮤니티는 매우 활발하게 활동하고 있지만, 이는 강력한 커뮤니티 구축의 시급한 필요성을 시사합니다.

이러한 우려에 대해 Vu Duy Hien 씨는 "AI는 돌이킬 수 없는 추세이므로 사이버 보안 커뮤니티는 걱정하기보다는 협력하고 경험을 공유하며 새로운 시대에 적응하는 안전한 방어 생태계를 함께 구축해야 합니다." 라고 말했습니다.

또한, 이러한 어려움은 기술적인 측면에만 국한되지 않습니다. 변호사 니 팜(Nhi Pham)에 따르면, 베트남은 법적 문서가 있지만, 위반 사항이 국경을 넘나드는 경우가 많아 자산 추적 및 회수가 어려워 조사 및 처리에 여전히 많은 어려움이 있습니다. 그녀는 위험을 최소화하기 위해서는 기술팀과 법률팀 간의 긴밀한 협력과 상호 이해가 필수적이라고 강조합니다.

궁극적으로 승리의 열쇠는 역량을 지속적으로 향상시키는 것입니다. 히엔 씨는 AI 시대의 사이버 범죄 예방을 위해서는 모든 사용자와 기업이 끊임없이 기술을 업데이트해야 하며, 특히 사이버 보안 전문가들은 전문 역량을 향상시키고 새롭고 선제적인 솔루션을 개발해야 한다고 강조했습니다.

AI라는 양날의 칼은 사이버 보안 산업에 엄청난 도전과제를 안겨주었지만, 동시에 전례 없는 기회를 제공하기도 합니다. 사이버 공간의 미래는 우리가 이 강력한 도구를 어떻게 활용하고 통제하느냐에 달려 있습니다. 방어적인 AI와 공격적인 AI의 대결은 끝없는 군비 경쟁이 될 것이며, 승리는 더 잘 준비하고, 더 긴밀하게 협력하며, 끊임없이 배우고 혁신하는 쪽에게만 돌아갈 것입니다.

후이꽝

출처: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html