경고 ChatGPT가 새로운 사기 무기가 됩니다

[광고_1]

사이버 보안 회사에 따르면, 생성적 AI는 사이버 보안에 많은 위험을 초래하고 있으며, 특히 홍콩에서 사이버 사기가 만연함에 따라 더욱 그렇습니다. 해당 위협에 대처하기 위해 AI를 활용하고 있는 사이버 보안 회사입니다.

경고 ChatGPT가 새로운 사기 무기가 됩니다 - 1 — 인공지능이 생성하는 피싱 이메일과 음성 스푸핑 전화는 점점 더 정교해지고 탐지하기 어려워지고 있습니다. (사진: Shutterstock)

홍콩에서는 사기꾼들이 온라인 채팅, 전화, 문자 메시지를 통해 48억 홍콩달러(미화 6억 1,150만 달러)를 사취했습니다. AI가 생성하는 오디오, 비디오 , 문자 메시지는 이러한 유형의 사기를 적발하기 어렵게 만들고 있습니다.

스위스에 본사를 둔 사이버 보안 서비스 회사인 Wizlynx Group의 아시아 CEO인 킴-호크 레오우는 ChatGPT와 같은 생성적 AI 도구의 등장으로 특정 유형의 사기가 더 만연하고 효과적이 될 것이라고 말했습니다.

그는 "음성 및 영상 모방이 점점 더 현실화되고 있으며, 정보를 훔치고 기업 사이버 보안을 위협하려는 사람들이 이를 악용할 수 있다"고 말했습니다.

정부는 온라인 사기 증가에 대응하기 위한 조치를 취하고 있습니다. 2월, 베이징시 공안국은 위챗(WeChat) 성명을 통해 사기꾼들이 AI를 이용해 "범죄를 저지르고 유언비어를 유포할 수 있다"고 경고했습니다. 3월에는 미국 연방거래위원회(FTC)가 온라인에서 짧은 음성 클립만을 사용하여 AI가 생성한 음성을 사용하는 사기꾼들에 대한 경고를 발표했습니다.

"누구나 피싱 공격에 취약하지만, 피싱 공격은 길이, 철자 오류, 또는 사용자와 사용자의 작업에 대한 맥락 부족으로 인해 쉽게 탐지됩니다. 하지만 이제 사이버 범죄자들은 새로운 AI 언어 모델을 사용하여 피싱 이메일의 복잡성을 높일 수 있습니다."라고 Kim-Hock Leow는 말했습니다 .

이러한 사기는 ChatGPT와 같은 도구를 사용하여 메시지의 언어를 스캔하고 전문화하는 방식으로 이루어집니다. 여기에는 사기 이메일을 개인화하기 위해 문맥 정보를 추가하기 위한 신속한 배경 조사가 포함될 수 있습니다.

금융 회사들은 이제 이러한 정교한 사기에 대응하기 위해 ChatGPT를 직접 도입하고 있습니다. 챗봇을 활용하여 사기 방지 교육 목적으로 피싱 이메일을 생성하고, 취약점을 파악하며, 사이버 보안 시스템에 대한 연구를 수행합니다.

레오우 씨는 "AI가 시간이 지남에 따라 수집하고 생성할 수 있는 지식과 데이터를 기반으로 사이버 보안 전문가는 이를 사용하여 보안 시스템의 취약하고 위험한 영역을 정확하게 식별할 수 있습니다."라고 말했습니다.

"사이버 보안 전문가와 다른 업계에서도 ChatGPT를 활용하여 방어력을 강화하도록 장려해야 합니다. 어떤 면에서는 ChatGPT가 사이버 보안과 사이버 범죄 모두에 사용될 양날의 검과도 같습니다."라고 그는 덧붙였습니다.

ChatGPT를 개발한 OpenAI의 서비스 약관은 불법적인 목적으로 기술을 사용하는 것을 금지합니다. 하지만 레오우는 악의적인 행위자가 ChatGPT의 필터를 우회할 수 있는 위험이 여전히 존재한다고 말했습니다.

Cybersecurity Ventures의 보고서에 따르면, 사이버범죄로 인해 올해 전 세계적으로 8조 달러의 손실이 발생할 것으로 예상됩니다. 이는 돈 도난, 자산 손실, 생산성 손실로 이어집니다.

이러한 위협에 직면하여 사이버 보안 분야에서 AI 군비 경쟁이 본격화될 수 있습니다. 넷스코프(Netskope) 아시아 태평양 지역 최고정보책임자(CIO)인 데이비드 페어 먼 (David Fairman)은 "향후 몇 년 안에 보안팀은 위협 인식을 개선하고 방어 프로세스의 상당 부분을 자동화하기 위해 AI를 효과적으로 도입하게 될 것입니다." 라고 말했습니다.

칸 리 (Khanh Ly) (출처: SCMP)

유용한
감정
창의적인
고유한
격노