새로운 시대의 AI가 직면한 많은 과제들

AI가 점점 더 쉽게 접근 가능해지고, 점점 더 많은 개인과 기업이 공통 도구를 통해 AI를 활용함에 따라 해커는 공격을 자동화하고, 운영 속도를 높이고, 더 복잡한 캠페인을 전개해 불법적인 목적을 달성할 수도 있습니다.

카스퍼스키, AI 활용한 사이버 공격 유형 공개

카스퍼스키가 관찰한 공격 유형은 다음과 같습니다. ChatGPT는 맬웨어를 개발하고 여러 피해자에게 자동으로 공격을 배포하는 데 사용될 수 있습니다. AI 프로그램은 스마트폰에 있는 사용자 데이터에 침투하고 민감한 데이터를 분석하는 과정을 통해 피해자의 메시지, 비밀번호 및 은행 코드를 완전히 "읽을" 수 있습니다. 군집 인텔리전스 알고리즘은 자동화된 컴퓨터 네트워크(보넷)가 보안 솔루션으로 제거된 악성 네트워크를 복구하는 데 도움이 됩니다.

카스퍼스키의 AI를 활용한 비밀번호 해독 연구에 따르면 대부분의 비밀번호는 MD5 및 SHA와 같은 해싱 알고리즘을 사용하여 암호화됩니다. 간단한 조작으로 비밀번호를 암호문 스트림으로 변환할 수 있지만, 그 과정을 되돌리는 것은 매우 어려운 과제입니다.

악의적인 행위자는 AI를 통해 텍스트, 이미지, 오디오, 비디오 등의 사기성 콘텐츠를 악용하여 사회 공학적 공격을 실행할 수 있습니다. ChatGPT-4o와 같은 대규모 언어 모델은 매우 정교한 피싱 스크립트와 메시지를 생성하는 데 사용됩니다. AI는 언어 장벽을 극복하고 소셜 네트워크 정보만을 기반으로 진짜 이메일을 작성할 수 있습니다. AI는 피해자의 글쓰기 스타일을 모방할 수도 있습니다. 이는 피싱 행위를 탐지하기 더욱 어렵게 만듭니다.

딥페이크는 이전에는 과학적 연구의 산물로 여겨졌지만, 사이버 보안의 "문제"로 남아 있습니다. 금전적 이익을 위해 유명인을 사칭하는 것이 가장 흔한 수법이며, 다음으로 사기꾼들은 딥페이크를 사용하여 계정을 도용하고, 피해자의 친구나 친척에게 가짜 전화를 걸어 재산을 횡령합니다.

악의적인 행위자는 불법 활동에 AI 기술을 악용하는 것 외에도 AI 알고리즘을 공격할 수 있습니다. 예를 들어, 대규모 언어 모델에 악성 명령을 입력하는 "즉시 주입" 공격은 이전에 제한되었던 규칙을 위반하는 경우도 있습니다. 또한, 이미지나 오디오에 숨겨진 정보 필드를 추가하여 머신 러닝 시스템의 이미지 분류 능력에 영향을 미치는 적대적 공격도 있습니다.

AI는 Apple Intelligence, Google Gemini, Microsoft Copilot 등 인간 삶의 모든 측면에 점차 통합되고 있습니다. 따라서 AI 취약점 해결은 최우선 과제가 되어야 합니다. 카스퍼스키는 수년간 AI 기술을 활용하여 고객과 파트너를 보호해 왔으며, AI 시스템의 취약점을 지속적으로 찾고 시스템의 복원력을 강화하며, AI 공격으로부터 신뢰할 수 있는 보호 기능을 제공하기 위해 사이버 공격 기법을 적극적으로 연구해 왔습니다.

김탄

출처: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html