ChatGPT와 같은 인공지능(AI)은 2023년 초부터 전 세계적으로 큰 인기를 끌고 있지만, 이 AI가 항상 긍정적인 목적으로 사용되는 것은 아닙니다. 최근 한 보안 전문가가 테스트 과정에서 ChatGPT에 악성 코드를 생성하도록 유도하는 방법을 발견했습니다.
Forcepoint의 보안 전문가인 Aaron Mulgrew는 OpenAI의 언어 챗봇을 사용하여 악성코드를 작성하는 위험성에 대해 이야기했습니다. ChatGPT는 사용자가 AI에게 악성코드 설계를 요청하는 것을 방지하도록 설계되었지만, Aaron은 AI가 프로그래밍 코드를 한 줄씩 작성하도록 하는 프롬프트를 생성하는 허점을 발견했습니다. 이 두 가지를 결합한 결과, Aaron은 탐지 불가능한 데이터 유출 실행 도구를 손에 넣었다는 것을 깨달았습니다. 이 도구는 오늘날 가장 정교한 악성코드에 버금갈 정도로 정교했습니다.
ChatGPT가 생성한 각각의 명령줄을 결합하면 정교한 맬웨어가 될 수 있습니다.
멀그루의 발견은 해커 그룹이 필요 없고, 도구 개발자가 단 한 줄의 코드도 쓰지 않고도 위험한 맬웨어를 만드는 데 AI를 사용할 수 있는 잠재력에 대한 경각심을 일깨워줍니다.
멀그루의 소프트웨어는 화면 보호기 애플리케이션으로 위장되어 있지만, 윈도우 기반 기기에서는 자동으로 실행될 수 있습니다. 운영 체제에 침투하면 이 악성코드는 워드 텍스트 편집기, 이미지 파일, PDF 등 모든 파일에 "침투"하여 데이터를 훔치려 합니다.
필요한 정보를 얻으면, 이 프로그램은 정보를 분석하여 컴퓨터의 이미지 파일에 첨부합니다. 탐지를 피하기 위해 이미지는 Google 드라이브의 폴더에 업로드됩니다. 멀그루는 ChatGPT에 입력된 간단한 명령을 통해 탐지를 피하기 위해 기능을 조정하고 강화할 수 있기 때문에 이 악성코드는 매우 강력합니다.
보안 전문가들이 진행한 비공개 테스트였고 테스트 범위를 벗어난 공격은 없었지만, 사이버 보안 커뮤니티는 ChatGPT를 이용한 활동의 위험성을 여전히 인지하고 있습니다. 멀그루는 프로그래밍 경험이 많지 않다고 주장하지만, OpenAI의 인공지능은 아직 그의 테스트를 막을 만큼 강력하고 똑똑하지 않습니다.
[광고_2]
소스 링크
댓글 (0)