범죄자들이 '다크 AI'를 보유할 위험성

사이버 공격을 위해 특별히 훈련된 AI 도구가 점점 더 효과적이 되면서, 이에 대응하기가 더욱 복잡해졌습니다.

AI는 사이버 범죄자들의 강력한 조력자가 되고 있다. 사진: Cato Networks .

일반 사용자뿐만 아니라 사이버 범죄자들도 AI를 활용하여 그 어느 때보다 정교한 공격을 감행하고 있습니다. 2년도 채 되지 않아 해커를 지원하는 AI 도구는 기능과 효율성 측면에서 빠르게 발전했습니다.

카스퍼스키 아시아 및 일본(APJ) 디렉터인 에이드리언 히아는 다크 AI가 악성코드의 급속한 성장에 큰 역할을 한다고 말했습니다. 카스퍼스키 통계에 따르면 매일 약 50만 개의 악성코드가 생성되고 있습니다.

히아 씨는 "다크 AI는 다크 웹과 같습니다. 우리가 매일 사용하는 웹의 어두운 면이죠."라고 말했습니다.

아시아 태평양 (APAC) 및 중동, 아프리카, 터키(META) 지역을 담당하는 카스퍼스키 글로벌 연구 분석 팀(GReAT) 책임자인 세르게이 로즈킨은 Dark AI가 ChatGPT나 Gemini와 같은 기존의 AI 챗봇과는 완전히 다르다고 말했습니다.

사용자에게 친숙한 AI는 사용자를 보조하고 합법적인 업무를 수행하기 위해 만들어졌으며, 악성코드를 만들거나 불법적인 활동을 하라는 명령을 받더라도 사용자는 목표를 달성하는 데 어려움을 겪습니다.

한편, 로즈킨은 다크 AI가 "사실 사이버 공간에서 악의적인 활동을 수행하기 위해 만들어진 LLM(채팅봇)입니다."라고 말했습니다. 이러한 AI는 악성코드, 피싱 콘텐츠, 심지어 사이버 범죄자들이 사기에 사용할 수 있는 완전한 프레임워크를 생성하도록 훈련됩니다.

평판이 좋은 해커만을 위한 숨겨진 AI 시스템

로즈킨 씨가 블랙햇 GPT 또는 "블랙햇 GPT"라고 부르는 이러한 시스템은 2023년부터 존재해 왔습니다. 카스퍼스키 관계자는 당시 AI가 매우 기본적이었고, 매우 악성 코드를 생성했으며 즉시 감지될 수 있었다고 말했습니다.

하지만 최근 블랙햇 GPT 시스템은 더욱 완벽해져서 악성 코드 생성, 사기성 콘텐츠 생성, 음성 및 영상 사칭 등 다양한 기능을 제공할 수 있게 되었습니다. WormGPT, DarkBard, FraudGPT 등의 이름으로도 불립니다.

카스퍼스키 연구원 세르게이 로즈킨은 다크 AI의 품질이 점점 더 향상되고 있다고 경고합니다. 사진: 민 코이.

카스퍼스키가 발견한 가장 충격적인 사실 중 하나는 평판이 좋은 사이버 범죄자만 접근할 수 있는 비공개 다크 AI 시스템이 존재한다는 사실이었습니다. 이러한 비공개 AI 시스템에 접근하려면 해커는 지하 포럼에서 명성을 쌓아야 합니다.

카스퍼스키 전문가는 "이러한 유형의 시스템은 신뢰할 수 있는 사람이어야만 접근할 수 있습니다. 이러한 지원 프로그램에 접근하려면 지하 포럼에서 평판을 쌓아야 합니다."라고 말했습니다.

로즈킨은 카스퍼스키가 수년간 지하 포럼에 침투하여 활동을 모니터링하고 추적하는 "디지털 발자국 인텔리전스" 부서를 보유하고 있다고 밝혔습니다. 새로운 시스템을 도입한 후에도 카스퍼스키는 다크 AI의 작동 방식, 기능, 그리고 효과를 이해하는 데 많은 시간을 투자하고 있습니다.

다크 AI가 더욱 강력해지고 있습니다

다크 AI는 숙련된 해커들에게 효과적인 도구가 되고 있습니다. 기본적인 프로그래밍 지식만 있는 해커라면 랜섬웨어 생성기를 사용해도 백신 프로그램이 쉽게 인식하는 소프트웨어만 만들 수 있습니다. 하지만 숙련되고 경험이 풍부한 해커라면 다크 AI를 통해 코딩 생산성을 높이고 새로운 맬웨어를 생성할 수 있습니다.

"이러한 품질은 각 플랫폼이나 다크 AI에 따라 크게 달라집니다. 매우 낮은 품질의 코드를 생성하는 도구도 있지만, 10점 만점에 7~8점에 그치는 도구도 있습니다." 로즈킨 씨는 Znews의 Tri Thuc 과의 인터뷰에서 이렇게 말했습니다.

한 가지 예가 다형성 코드를 생성하는 능력입니다. 이전에는 백신 프로그램이 악성 코드를 탐지했을 때 해커가 코드를 변경하는 데 오랜 시간이 걸렸습니다. 이제 다크 AI는 이를 "거의 즉시" 수행하여 탐지하기 어려운 버전을 생성할 수 있습니다.

또한, 다크 LLM은 피싱 공격에서 언어 장벽을 허물고 있습니다. 카스퍼스키 전문가들은 새로운 세대의 피싱 이메일은 거의 완벽한 영어를 사용하기 때문에 탐지하기가 더 어렵다고 지적하며, 심지어 "CEO의 목소리와 똑같아 보일 수도 있다"고 덧붙였습니다.

일부 "올인원" 다크 AI 시스템은 코드 생성, 음성 사칭 기능 통합, 피싱 이메일 발송 기능을 제공합니다. 사진: 카스퍼스키.

특수 다크 AI 시스템의 가짜 음성과 이미지를 생성하는 능력 또한 점점 더 완벽해지고 있습니다. 로즈킨 씨는 보안 요원으로서의 경험 덕분에 "더 이상 화상 통화를 믿지 않는다"고 말하기도 했습니다.

그러나 카스퍼스키의 전문가들은 사용자가 개인적 행동, 말하는 습관 및 일부 고유한 특성을 통해 사기 전화를 여전히 식별할 수 있다고 말했습니다.

보안 연구원은 Tri Thuc – Znews 에 "이러한 기능은 위조하기 어려우므로 위조되었다고 생각되는 사람에게 직접 연락해 보세요."라고 말했습니다.

"AI 군비 경쟁"

다크 AI의 개발은 사이버 범죄자와 사이버 보안 전문가 간의 기술 군비 경쟁을 촉발했습니다. 로즈킨은 "저는 현재 연구, 프로그래밍, 리버스 엔지니어링 등 모든 분야에 AI를 활용하고 있습니다. 올해 제 생산성은 이전보다 10~20배 높아졌습니다."라고 인정했습니다.

"악당들이 AI를 이용해 공격하는 동안 AI를 활용해 방어 기제를 구축하지 않으면 패배할 것입니다. 이는 선한 세력과 AI를 이용하는 악당 간의 경쟁의 시작입니다."라고 그는 경고했습니다.

카스퍼스키 APJ 디렉터인 에이드리언 히아는 다크 AI가 악성 코드를 더 빠르게 생성하는 데 도움이 된다고 말했습니다. 사진: 민 코이

구글은 ChatGPT를 이용하여 악성코드를 제작하고 공격을 계획하려는 국가 지원 단체의 악성 활동 20건 이상을 차단했다고 보고했습니다. 2024년에는 AI 모델을 사용하여 정부 지원 APT 단체 40곳을 식별했습니다.

특히 우려스러운 것은 월 200달러 에 "풀 패키지" 서비스를 제공하는 Xanthorox와 같은 본격적인 프레임워크입니다. 이 시스템은 음성 생성, 피싱 이메일, 기타 공격 도구를 사용하기 쉬운 인터페이스에 통합합니다.

카스퍼스키 전문가들은 다크 AI가 아직 초기 단계라고 경고합니다. 에이드리언 히아는 향후 몇 년 안에 다크 AI 사용 비용이 훨씬 저렴해질 것으로 예상하지만, 다크 AI가 얼마나 발전할지는 아직 알 수 없습니다.

"하지만 제가 절대적으로 확신하는 것은 우리가 준비가 되어 있다는 것입니다. 왜냐하면 우리는 반대편에서 똑같은 일을 하고 있기 때문입니다."라고 로즈킨 씨는 말했습니다.

출처: https://znews.vn/moi-nguy-khi-toi-pham-so-huu-ai-den-post1574400.html