인공지능(AI)은 환경과 자원에 부정적인 영향을 미칠 뿐만 아니라 사이버 보안 분야에서도 위험한 도구로 빠르게 자리매김하고 있습니다. 그 증거로, OALABS Research는 최근 에티오피아의 한 아마추어 해커가 Claude와 OpenAI Codex의 AI 에이전트를 이용해 일련의 사이버 공격을 감행한 사례를 공개했습니다.
맞춤법과 문법 오류가 많고 지시 사항도 모호했음에도 불구하고, 이 해커는 수많은 개인 서버를 성공적으로 해킹했습니다. 최소 14개 회사의 보안 데이터에 침입했으며, 400만 달러 상당의 암호화폐를 훔치려는 계획까지 세웠습니다.
아마추어 해커들이 클로드와 코덱스를 이용해 14개 기업을 공격했습니다.
해커들과 그들이 시스템 장벽을 우회하기 위해 인공지능을 악용하는 전술.
공격자들은 심리적 조작을 통해 클로드 오푸스 모델의 강력한 보안 조치를 비교적 쉽게 우회했습니다. 보안 취약점을 연구하는 구성원인 척 가장하여 AI 챗봇을 속여 공격에 사용된 소스 코드 전체를 자동으로 제공하게 만들었습니다. 이 시스템은 심지어 갈취, 데이터 판매와 같은 상세한 공격 방법을 설명하고 데이터를 훔치는 방법을 직접 지시하기도 했습니다. 이 챗봇은 특정 가족의 개인 디지털 계정을 의도적으로 노린 단 하나의 요청만 차단했습니다.
이례적인 이 사건은 서버 해킹 피해자가 OALABS 전문가에게 연락하면서 완전히 드러났습니다. 특히, 이 어린 해커의 신원은 그가 이전에 AI에게 자신의 개인 프로필 수정을 요청했던 이력 덕분에 밝혀졌습니다. 이 사건은 전문적인 지식 없이도 이러한 강력한 기술 도구에 쉽게 접근할 수 있다는 점에 대한 심각한 우려를 불러일으켰습니다. 사용자들은 다른 AI 중개자를 이용해 유사한 위험한 공격 명령을 손쉽게 작성할 수 있을 것입니다.
현재 앤트로픽(Anthropic)이나 오픈아이얼(OpenAI)과 같은 거대 기술 기업들은 이러한 공격을 막을 확실한 해결책을 찾지 못하고 교착 상태에 빠져 있습니다. 모델의 한계를 강화하면 진정한 보안 연구자들이 시스템을 강화할 기회를 직접적으로 박탈하게 됩니다. 반대로 현상 유지는 윤리적 사용과 불법적 이득 사이의 경계를 인공지능에 있어 넘을 수 없는 장애물로 남길 것입니다. 악의적인 사용자 의도를 막기 위한 최적의 해결책을 찾는 것은 여전히 해결되지 않은 과제입니다.
탄니엔 신문에 따르면
출처: https://baoangiang.com.vn/hacker-nghiep-du-dung-chatbot-ai-tan-cong-14-cong-ty-a490360.html
