보안 전문가, ChatGPT를 속여 악성 코드 작성

ChatGPT와 같은 인공지능(AI)은 2023년 초부터 전 세계적으로 큰 인기를 끌었지만, 이 AI가 항상 긍정적인 목적으로 사용되는 것은 아닙니다. 최근 한 보안 전문가가 테스트 과정에서 ChatGPT에 악성 코드를 생성하도록 유도하는 방법을 발견했습니다.

Forcepoint의 보안 전문가인 Aaron Mulgrew는 OpenAI가 개발한 언어 기반 챗봇을 사용하여 악성코드를 작성할 경우 발생할 수 있는 위험성에 대해 이야기했습니다. ChatGPT는 사용자가 AI에게 악성코드 설계를 요청하는 것을 방지하도록 설계되었지만, Aaron은 인공지능이 각 줄에 프로그래밍 코드를 작성할 수 있도록 명령줄(프롬프트)을 생성하는 취약점을 발견했습니다. 이 두 가지를 결합한 결과, Aaron은 탐지 불가능한 데이터 유출 실행 도구를 손에 넣었다는 것을 깨달았습니다. 이 도구는 오늘날의 주요 악성코드에 버금갈 정도로 정교합니다.

ChatGPT가 생성한 각각의 명령줄을 결합하면 정교한 맬웨어가 될 수 있습니다.

멀그루의 발견은 해커 그룹이나 도구 개발자가 단 한 줄의 코드도 작성하지 않고도 AI를 이용해 위험한 맬웨어를 만들 수 있는 잠재력이 있다는 경고입니다.

멀그루의 소프트웨어는 화면 보호기 애플리케이션으로 위장되어 있지만, 윈도우 기반 기기에서는 자동으로 실행될 수 있습니다. 운영 체제에 침투하면 이 맬웨어는 Word 문서 편집기, 이미지 파일, PDF 등 모든 파일에 "몰래 침투"하여 데이터를 훔치려 합니다.

필요한 정보를 얻으면, 프로그램은 정보를 분석하여 컴퓨터의 이미지 파일에 첨부합니다. 탐지를 피하기 위해 이미지는 Google Drive 클라우드 저장소의 폴더에 업로드됩니다. 멀그루는 ChatGPT에 입력된 간단한 명령을 통해 탐지를 피하기 위해 기능을 조정하고 강화할 수 있기 때문에 이 악성코드는 매우 강력합니다.

보안 전문가들이 진행한 비공개 테스트였고 테스트 구역 밖에서는 공격이 발생하지 않았지만, 사이버 보안 업계는 ChatGPT를 이용한 활동의 위험성을 여전히 인지하고 있습니다. 멀그루는 프로그래밍 경험이 많지 않다고 주장하지만, OpenAI의 인공지능은 아직 그의 테스트를 막을 만큼 강력하고 지능적이지 않습니다.

소스 링크: https://thanhnien.vn/chuyen-gia-bao-mat-lua-chatgpt-viet-ma-doc-185230415111901495.htm