5월 22일에 열린 보안 서밋 2026 포럼에서 비엣텔 사이버 보안 정보 보안 서비스 센터의 마이 쑤언 꾸엉 소장은 AI 에이전트와 기존 LLM(Learning Leadership Machine)의 가장 위험한 차이점은 시스템과 직접 상호 작용할 수 있는 능력에 있다고 밝혔습니다.
기존의 언어 관리자(LLM)는 명령을 수신하고 텍스트를 반환하는 기능만 수행하는 반면, AI 에이전트는 셸 명령 실행(명령줄을 통해 운영 체제와 상호 작용), 파일 시스템 읽기/쓰기 조작, 자동 이메일 전송, API 호출, 브라우저 제어 등의 기능을 수행할 수 있습니다. 이러한 업그레이드는 의도치 않게 일반적인 허위 정보 유포 캠페인의 범위를 훨씬 뛰어넘는 광범위한 공격 가능성을 열어줍니다.
인공지능 에이전트가 사이버 범죄자들의 새로운 공격 대상이 되고 있습니다.
사이버 보안 전문가들에 따르면, 인공지능 에이전트가 사이버 범죄자들의 새로운 공격 대상이 되는 이유는 바로 이러한 "행동"할 수 있는 능력 때문입니다.
가장 큰 위험 중 하나는 기업 데이터 유출입니다. AI 에이전트가 효과적으로 작동하려면 소스 코드, 문서, 이메일과 같은 대량의 내부 정보를 처리해야 하는 경우가 많습니다. 이러한 데이터가 제3자 클라우드 AI 플랫폼으로 전송될 경우 기밀 정보 노출 위험이 커집니다.
삼성 직원들이 ChatGPT를 통해 새로운 소스 코드를 유출한 사례나, Meta 직원들이 내부 AI의 지시를 따르다가 의도치 않게 데이터를 유출한 사례가 기록되어 있습니다.
전문가들은 데이터 유출 위험 외에도 "간접적인 프롬프트 주입"에 대해서도 경고합니다. 해커는 이메일, 웹사이트 또는 문서에 악의적인 명령어를 삽입하여 AI 에이전트가 의도치 않은 동작(예: 내부 데이터 접근 또는 해커에게 정보 전송)을 수행하도록 유도할 수 있습니다.
공격자가 시스템을 우회하기 위해 메시지에 모스 부호를 숨겨 암호화폐 에이전트인 Grok-Bankrbot이 무단 송금을 실행하도록 허용한 사례가 있었으며, 이로 인해 15만 달러의 손실이 발생했습니다.
또 다른 위험은 AI 에이전트용 확장 프로그램 생태계에서 비롯됩니다. 많은 기업 직원들이 AI 기능 확장을 위해 커뮤니티에서 제공하는 확장 프로그램을 설치하는데, 해커들은 이러한 경로를 악용하여 악성 소프트웨어를 유포할 수 있습니다. 시스템 접근 권한을 획득한 가짜 플러그인은 데이터나 토큰을 탈취하거나 기기에 백도어를 설치할 수 있습니다.
꾸엉 씨에 따르면, 직원들이 IT 부서를 거치지 않고 업무용 컴퓨터에 AI 에이전트를 자체적으로 설치하는 '섀도우 AI' 현상이 나타나고 있다고 합니다. 이로 인해 기업은 접근 제어가 어려워지고 시스템 보안 침해 위험이 증가합니다.
또한, AI는 사용자의 의도를 잘못 해석하여 기업에 상당한 피해를 줄 수 있는 명령을 실행할 수 있습니다. 예를 들어, AI 에이전트에게 과도한 권한이 부여될 경우 잘못된 작업을 수행하거나 중요한 데이터를 실수로 삭제할 수 있습니다.
위험을 완화하기 위해 조직은 기존의 안티바이러스 소프트웨어에만 의존하는 대신 다계층 보안 모델을 구축하고 적절한 구현 로드맵을 개발하는 것이 좋습니다.
기업은 다층적인 보안 모델을 구축해야 합니다.
기업이 가장 먼저 해야 할 일은 위협 탐지입니다. 기업은 엔드포인트와 웹 프록시 트래픽(인터넷에 기기를 연결하는 중간 서버)을 활용하여 위협을 수집하고 식별할 수 있습니다.
다음으로, 모든 AI 접근을 위한 단일 제어 지점 역할을 하는 AI 게이트웨이를 설정해야 합니다. 이 게이트웨이는 퍼블릭 클라우드로의 데이터 전송을 제어합니다.
따라서 기업은 악성 명령을 식별하고, 데이터 유출을 방지하며, 시스템에 대한 무단 접근 또는 악용을 감지하기 위해 AI 게이트웨이 및 기타 AI 애플리케이션에 특수 제어 계층(가드레일)을 추가로 구현해야 합니다.
다음 단계는 AI 에이전트에 대한 보안 강화 조치를 마련하는 것입니다. 엔드포인트의 모니터링 시스템은 비정상적인 "자율적 행동"을 추적하도록 구성되어야 합니다. AI 에이전트는 사고 발생 시 확산 위험을 최소화하기 위해 접근이 제한된 격리된 환경에서 운영되어야 합니다. 마지막으로, 정기적인 시스템 모니터링이 필수적입니다.
"AI 보안 거버넌스는 일회성 배포가 아니라 지속적인 모니터링 프로세스입니다."라고 쿠옹 씨는 말했습니다.
급속한 AI 에이전트 개발 시대에는 AI 보안 관리가 필수적인 요구 사항이 될 것입니다. 기업이 제로 트러스트 보안 모델과 철저한 모니터링 시스템을 구축할 준비가 되어 있지 않다면, AI 에이전트에게 권한을 부여하는 것은 아무리 숙련되었더라도 조작에 매우 취약한 직원에게 시스템 제어권을 넘겨주는 것과 마찬가지입니다.
출처: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445
댓글 (0)