AI 기반 보안: 양날의 검.

인공지능의 발전은 보안 산업에 중대한 역설을 제시합니다. AI는 가장 강력한 방어막인 동시에 가장 위험한 공격 무기이기도 합니다.

인공지능(AI)은 삶의 모든 측면을 변화시키고 있으며, 사이버 보안 또한 예외는 아닙니다. 그러나 이 기술의 급속한 발전은 중대한 역설을 낳고 있습니다. AI는 가장 강력한 방어막인 동시에 가장 위험한 공격 무기이기도 합니다. "AI가 당신을 해킹한다"라는 주제로 열린 BSides Hanoi 2025 행사에서, 전문가들은 이 양날의 검의 본질을 분석하고 새로운 시대의 사이버 전쟁에 대한 포괄적인 그림을 제시했습니다.

국가사이버보안협회 부사무총장 겸 사무총장인 부 두이 히엔 씨에 따르면, 인공지능(AI)은 현재 여러 분야에서 개인과 기업을 지원하고 업무 처리 속도를 높이는 데 특히 중요한 역할을 하는 기술 중 하나입니다. 그러나 사이버보안 분야에서 AI는 양날의 검과 같습니다.

AI - 지능형 '보디가드'

인공지능(AI)이 사이버 보안 산업에 엄청난 발전을 가져오고 있다는 것은 부인할 수 없는 사실입니다. "긍정적인 측면에서 AI는 공격을 조기에 탐지하고, 데이터를 분석하고, 네트워크 방어를 강화하는 데 도움을 줍니다. AI 덕분에 개발된 많은 지능형 보안 도구는 위협에 대한 대응 시간을 크게 단축시켜 주었습니다." 라고 Vu Duy Hien 씨는 강조했습니다.

국가 사이버보안협회 부사무총장 겸 사무국장인 부 두이 히엔 씨가 컨퍼런스에 참석했습니다.

이러한 강점은 비영리 단체인 사기방지 네트워크의 회원인 후인 응옥 칸 민 씨의 사례를 통해 분명하게 드러납니다. 그녀는 과거 사기 방지 업무가 주로 수작업에 의존했을 당시에는 전문가들이 의심스러운 연결 고리를 하나하나 개별적으로 확인해야 했기 때문에 매일 수만 건의 신고를 처리하는 데 상당한 지연이 발생했다고 말했습니다.

이러한 한계를 극복하기 위해 안티피싱 팀은 새로운 AI 도구를 개발했습니다. 칸 민 씨 는 "사용자가 링크를 붙여넣기만 하면 AI가 자동으로 30초에서 1분 이내에 최대 98%의 정확도로 결과를 확인합니다 ."라고 말했습니다. " 덕분에 검증 시간이 이전보다 수십 배 단축되어 사람들이 온라인 사기 위험을 효과적이고 완전 무료로 사전에 감지하고 예방할 수 있게 되었습니다."

전 세계적으로 주요 사이버 보안 플랫폼들은 인공지능(AI)을 광범위하게 통합해 왔습니다. 다크트레이스(Darktrace) 시스템은 자체 학습 AI를 활용하여 기업을 위한 "면역 체계"를 구축하고, 알려지지 않은 공격의 징후가 될 수 있는 아주 작은 이상 징후까지 자동으로 탐지합니다. 마찬가지로 크라우드스트라이크(CrowdStrike) 팔콘(Falcon) 플랫폼은 알려진 악성코드 시그니처에만 의존하는 대신, 머신 러닝과 행동 분석을 통해 정교한 공격을 방지합니다.

이러한 도구들은 AI가 사이버 보안 전문가들이 수동적인 접근 방식에서 능동적인 접근 방식으로 전환하여 위협이 피해를 입히기 전에 예방하는 데 어떻게 도움이 되는지 보여줍니다.

AI - 악당들의 손에 든 무기.

동전의 어두운 면 또한 눈부시게 매력적입니다. 인공지능의 뛰어난 능력 덕분에 사이버 범죄자들에게는 탐나는 도구가 되었습니다. 부 두이 히엔 씨는 다음과 같이 지적했습니다. "반대로, 사이버 범죄자들은 ​​인공지능을 활용하여 기존의 여러 방어 체계를 우회할 수 있는 더욱 정교한 공격 방식을 개발하고 있습니다. 따라서 사이버 공격의 속도, 규모, 정확도가 급격히 증가하고 있습니다."

피싱 공격은 매우 개인화되어 있습니다. 해커는 대규모 언어 모델(LLM)을 사용하여 자연스러운 언어와 맥락을 담은 이메일과 메시지를 대량으로 생성하여 각 대상에 맞춤화할 수 있으므로, 아무리 조심스러운 사용자라도 속을 수 있습니다.

딥페이크의 등장: 사이버 범죄자들은 ​​CEO의 목소리나 영상을 사칭하여 긴급 송금을 요구할 수 있습니다. 한 유명한 사례에서는 범죄자들이 인공지능을 이용해 영국 에너지 회사 CEO의 목소리를 흉내 내 24만 3천 달러를 사취했습니다.

다형성 악성코드: 인공지능을 이용하여 감염 후 소스 코드를 자동으로 변경하는 악성코드를 만들 수 있으며, 이로 인해 기존의 안티바이러스 소프트웨어는 효과가 없어집니다.

공격 프로세스 자동화: 해커는 인공지능(AI)을 활용하여 수백만 개의 시스템에서 취약점을 자동으로 스캔하고, 서비스 거부(DDoS) 공격을 수행하거나, 초고속으로 비밀번호를 해킹하여 공격 규모를 몇 배로 증폭시킬 수 있습니다.

인간적인 요소와 끝없는 경쟁.

이러한 현실을 고려할 때, 전문가들은 AI 시대의 사이버 보안 전쟁은 "선한 AI"와 "악한 AI" 간의 경쟁이라는 데 동의합니다. 그리고 이 경쟁의 중심에서 인간의 역할은 더욱 중요해집니다.

VSEC 회장인 쯔엉 득 루옹 씨가 세미나에 참석했습니다.

베트남 사이버보안 주식회사(VSEC)의 쯔엉 득 루옹 회장은 22년간의 경험을 통해 국제 사이버보안 커뮤니티가 매우 활발함에도 불구하고 베트남 사이버보안 전문가들과 세계 사이버보안 전문가들 간의 협력 및 심층적인 지식 공유 기회가 부족하다는 점을 지적했다. 이는 강력한 커뮤니티 구축의 시급성을 강조하는 것이다.

이러한 우려에 대해 부두이히엔 씨 는 "AI는 되돌릴 수 없는 추세이므로 사이버 보안 커뮤니티는 걱정하기보다는 협력하고 경험을 공유하며 새로운 시대에 적응하는 안전한 방어 생태계를 함께 구축해야 한다"고 밝혔습니다.

게다가 어려움은 기술적인 측면에만 국한되지 않습니다. 니 팜 변호사에 따르면, 베트남은 관련 법률 문서를 갖추고 있지만, 위반 행위가 국경을 넘나드는 경우가 많아 자산 추적 및 회수가 어렵기 때문에 수사와 기소에 여전히 많은 어려움이 있다고 합니다. 그녀는 위험을 최소화하기 위해서는 기술팀과 법률팀 간의 긴밀한 협력과 상호 이해가 필수적이라고 생각합니다.

궁극적으로 성공의 열쇠는 지속적인 역량 강화에 있습니다. 히엔 씨는 AI 시대의 사이버 범죄 대응을 위해서는 모든 사용자와 기업이 기술을 끊임없이 업데이트해야 하며, 특히 사이버 보안 전문가들은 전문 기술을 향상시키고 새로운 솔루션을 적극적으로 개발해야 한다고 강조했습니다.

인공지능(AI)은 양날의 검과 같아서 사이버 보안에 중대한 도전 과제인 동시에 전례 없는 기회를 제공하고 있습니다. 사이버 공간의 미래는 이 강력한 도구를 어떻게 활용하고 통제하느냐에 달려 있습니다. 방어형 AI와 공격형 AI의 대결은 끝없는 군비 경쟁이 될 것이며, 승리는 더 잘 준비하고, 더 긴밀하게 협력하며, 끊임없이 학습하고 혁신하는 쪽에 돌아갈 것입니다.

후이꽝

출처: https://vtcnews.vn/bao-mat-bang-ai-con-dao-hai-luoi-ar970604.html