이스라엘 사이버 보안 회사 제니티(Zenity)는 오픈아이얼(OpenAI)의 ChatGPT 서비스에서 최초로 '제로 클릭' 취약점을 발견했다고 발표했습니다. 이 공격 유형은 사용자가 링크를 클릭하거나 파일을 열거나 의도적인 상호 작용과 같은 작업을 수행하지 않아도 계정 접근 권한을 획득하고 민감한 데이터를 유출할 수 있습니다.
텔아비브 주재 VNA 특파원에 따르면, 제니티의 공동 창립자 겸 CTO인 미하일 베르고리는 해커가 사용자의 이메일 주소만 있으면 과거 및 미래 대화를 포함한 모든 대화를 완전히 제어하고, 대화의 목적을 바꾸고, 심지어 ChatGPT를 조작하여 해커의 의도대로 작동하게 할 수 있는 방법을 직접 설명했다.
연구진은 발표에서 해킹당한 ChatGPT가 사용자를 상대로 은밀하게 작동하는 "악성 에이전트"로 변모할 수 있음을 보여주었습니다. 해커는 챗봇을 조작하여 사용자가 바이러스에 감염된 소프트웨어를 다운로드하도록 유도하거나, 잘못된 사업 조언을 제공하거나, 사용자의 계정이 Google Drive에 연결되어 있는 경우 해당 계정에 저장된 파일에 접근하도록 할 수 있습니다.
이 모든 과정은 사용자가 모르는 사이에 진행되었습니다. 해당 취약점은 Zenity가 OpenAI에 알린 후에야 완전히 패치되었습니다.
Zenity는 ChatGPT 외에도 다른 인기 있는 AI 비서 플랫폼을 대상으로 하는 유사한 공격을 여러 차례 시뮬레이션했습니다. 마이크로소프트의 Copilot Studio에서는 연구원들이 전체 CRM 데이터베이스가 유출될 수 있는 방법을 발견했습니다.
세일즈포스 아인슈타인의 경우, 해커는 가짜 서비스 요청을 생성하여 모든 고객 커뮤니케이션을 자신들이 통제하는 이메일 주소로 리디렉션할 수 있습니다.
구글 제미니와 마이크로소프트 365 코파일럿 또한 "적대적 에이전트"로 변모하여 피싱 공격을 실행하고 이메일 및 캘린더 이벤트를 통해 민감한 정보를 유출했습니다.
또 다른 예로, Cursor 소프트웨어 개발 도구가 Jira MCP와 통합되었을 때 가짜 "티켓"을 통해 프로그래머의 로그인 자격 증명을 탈취하는 데 악용된 사례가 있습니다.
제니티는 오픈아이디어(OpenAI)와 마이크로소프트(Microsoft) 같은 일부 기업들은 문제 제기 후 신속하게 패치를 배포했다고 밝혔습니다. 그러나 일부 기업들은 발견된 동작이 보안 취약점이 아닌 "설계상의 특징"이라며 문제 해결을 거부했습니다.
미하일 베르고리에 따르면, 오늘날 가장 큰 과제는 AI 비서가 단순한 작업만 수행하는 것을 넘어 사용자를 대변하는 "디지털 실체"로 진화하고 있다는 점입니다. 폴더를 열고, 파일을 보내고, 이메일에 접근할 수 있게 된 것입니다. 그는 이러한 상황이 해커들에게는 마치 "안식처"와 같으며, 악용될 수 있는 취약점이 너무나 많다고 경고합니다.
제니티의 공동 창립자 겸 CEO인 벤 칼리거는 자사의 연구 결과 현재의 보안 방식으로는 AI 비서의 작동 방식에 더 이상 적합하지 않다고 강조했습니다. 그는 기업들이 접근 방식을 바꿔 이러한 "에이전트"의 활동을 제어하고 모니터링할 수 있는 전문 솔루션에 투자해야 한다고 촉구했습니다.
제니티는 2021년에 설립되었습니다. 현재 전 세계적으로 약 110명의 직원을 보유하고 있으며, 그중 70명은 텔아비브 사무실에서 근무합니다. 제니티의 고객에는 포춘 100대 기업은 물론 포춘 5대 기업까지 다수 포함되어 있습니다.
출처: https://www.vietnamplus.vn/israel-canh-bao-tro-ly-ai-co-the-tro-thanh-tac-nhan-doc-hai-tan-cong-nguoi-dung-post1054883.vnp
댓글 (0)