해외 해커, AI 활용해 사이버 공격 자동화 첫 발견

인공지능(AI) 회사인 앤트로픽(Anthropic)은 해외 해커들이 수행한 사이버 공격 캠페인을 탐지하고 중단했다고 발표했습니다. 앤트로픽은 이를 통해 AI를 사용하여 거의 자동화된 방식으로 공격 활동을 조정하는 최초의 사례를 기록했습니다.

Anthropic이 이번 주에 발표한 보고서에 따르면, 해커들은 AI 시스템을 사용하여 침입을 계획, 지시, 실행하고 있는데, 연구자들은 이러한 추세를 "걱정스러운" 일이라고 말하며, 사이버 공격 캠페인의 규모와 속도를 크게 확대할 위험이 있다고 밝혔습니다.

생성형 AI 챗봇 클로드(Claude)를 개발한 앤트로픽(Anthropic)은 9월에 해당 활동을 감지하고 이를 중단시킨 후 기술 기업, 금융 기관, 화학 기업, 그리고 여러 정부 기관 직원을 포함한 약 30명의 잠재적 피해자에게 알렸다고 밝혔습니다. 보고서는 "소수의 사례만 성공적으로 침해되었다"고 밝혔습니다.

사이버 작전에 AI를 활용하는 것에 대한 우려는 새로운 것이 아니지만, 우려되는 것은 AI가 일부 작업을 어느 정도 자동화할 수 있는지에 대한 것입니다.

Anthropic의 보고서는 "이러한 역량이 계속해서 발전할 것으로 예상하지만, 우리에게 놀라운 것은 이러한 역량이 규모에 따라 발전하는 속도입니다."라고 기술하고 있습니다.

연구자들은 AI 기술이 무기화될 수 있다고 경고합니다. AI 에이전트(컴퓨터에서 자동으로 작업을 수행할 수 있는 도구)가 해커의 손에 들어갈 경우 대규모 사이버 공격의 가능성을 높일 수 있습니다.

올해 초, 마이크로소프트는 사이버 범죄자와 해커 서비스와 함께 미국의 적대 세력이 AI를 활용해 공격 효과를 높이고, 정교한 피싱 이메일을 만들거나 고위 공무원의 음성과 이미지를 시뮬레이션해 간섭 활동을 수행하고 민감한 시스템에 침투하고 있다고 경고했습니다./.

(TTXVN/베트남+)

출처: https://www.vietnamplus.vn/lan-dau-tien-phat-hien-tin-tac-nuoc-ngoai-su-dung-ai-tu-dong-hoa-tan-cong-mang-post1077119.vnp