구글은 해커들이 인공지능을 이용해 보안 취약점을 악용하고 있다고 경고했습니다.

구글 위협 인텔리전스 그룹(GTIG) 보안 연구팀의 최신 경고에 따르면 사이버 공간에서의 인공지능 군비 경쟁이 더욱 우려스러운 단계에 접어들었습니다.

구글에 따르면, 정교한 해킹 그룹들이 인공지능(AI)을 이용해 제로데이 취약점, 즉 개발자들이 아직 발견하거나 패치하지 않은 결함을 찾아내고 악용하기 시작했습니다. 특히, AI는 더 이상 코드 작성이나 데이터 분석에서 보조적인 역할만 하는 것이 아니라, 사이버 공격을 위한 완전한 익스플로잇 코드를 직접 생성하는 데 관여하고 있습니다.

google-canh-bao-hacker-dung-ai-tan-cong-lo-hong-bao-mat.jpg — 해커들이 제로데이 취약점을 더 빠르게 찾아내기 위해 AI를 사용하고 있다. **사진: VOV**

구글이 발표한 충격적인 사례는 해커들이 실제 환경이 아닌 곳에서 인공지능(AI)을 이용해 제로데이 취약점 코드를 생성한 최초의 사례로 기록되었습니다. 이 공격은 인기 있는 오픈소스 코드 관리 도구를 표적으로 삼았으며, 최고 수준의 보안으로 여겨지는 2단계 인증(2FA)까지 우회하는 데 성공했습니다.

보안 전문가들은 해당 공격 코드가 지나치게 "표준적인" 논리적 구조, 사용 설명서와 유사한 장문의 주석, AI 모델 학습 과정에서 흔히 발견되는 수많은 데이터 문자열 등 AI 생성 콘텐츠의 여러 특징을 보인다고 말합니다. 구글은 AI가 이 보안 취약점 탐지 및 악용에 활용되었다고 확신에 차서 주장하고 있습니다.

전문가들은 가장 큰 위험이 속도에 있다고 경고합니다. 이전에는 해커들이 공격 도구를 연구하고 구축하는 데 몇 주 또는 몇 달을 소비할 수 있었습니다. 하지만 인공지능(AI)을 이용하면 이 시간이 단 몇 시간 또는 몇 분으로 단축될 수 있습니다. 이로 인해 기업들이 취약점을 해결할 수 있는 '골든 윈도우'가 더욱 줄어들고 있습니다.

인공지능은 취약점을 악용하는 것 외에도 더욱 정교한 피싱 공격을 만드는 데 사용되고 있습니다. 구글은 기술 지원 직원을 사칭하여 매우 설득력 있는 인공지능 생성 콘텐츠를 이용해 Gmail 사용자 정보를 탈취하는 사례를 보고했습니다.

하지만 AI는 기술 기업들이 사이버 보안 방어에도 활용하고 있습니다. 모질라는 AI 도구를 사용하여 한 달 만에 400개 이상의 보안 취약점을 탐지하고 수정했다고 밝혔습니다.

전문가들은 미래에 방어형 AI와 공격형 AI 간의 경쟁이 더욱 치열해질 것이며, 이로 인해 기업들은 패치 업데이트를 가속화하고, 모니터링 프로세스를 자동화하며, 사이버 보안 위협을 조기에 탐지하는 능력을 강화해야 할 것이라고 예측합니다.

출처: https://baogialai.com.vn/google-canh-bao-hacker-dung-ai-tan-cong-lo-hong-bao-mat-post587647.html