인공지능(AI)으로 인해 온라인 사기가 급증하고 있습니다.

사이버보안 기업 슬래시넥스트(SlashNext)의 보고서에 따르면, 사이버 범죄자들이 ChatGPT와 같은 인공지능(AI) 기반 이메일 생성 도구를 활용하여 기업 등을 대상으로 피싱 이메일을 작성하고 있습니다. 북미 지역 사이버보안 전문가 300명 이상을 대상으로 한 설문조사에서 거의 절반이 자사 사업체를 대상으로 한 피싱 공격을 경험했다고 답했으며, 77%는 악의적인 공격자들의 표적이 되었다고 밝혔습니다.

슬래시넥스트(SlashNext) CEO 패트릭 해리는 이러한 연구 결과가 AI 기반 콘텐츠가 사기 증가에 기여한다는 우려를 더욱 뒷받침한다고 말했습니다. 범죄자들은 ​​성공 확률을 높이기 위해 AI를 이용해 악성 소프트웨어나 사회공학적 사기를 개발하는 경우가 많습니다.

보고서에 따르면 매일 평균 3만 1천 건의 온라인 사기가 발생합니다.

해르는 챗GPT가 2022년 말에 출시된 시기가 슬래시넥스트에서 피싱 공격이 급증했던 시기와 일치한다고 덧붙였다.

FBI의 인터넷 범죄 보고서에 따르면, 기업에 피싱 이메일을 보내는 사기 행위로 인해 2022년에 약 27억 달러의 손실이 발생했습니다.

인공지능 기술이 사이버 범죄에 미치는 실제 영향에 대한 논쟁이 있지만, 해리는 ChatGPT와 같은 챗봇이 사이버 공격의 "무기"로 사용되고 있다고 믿습니다. 예를 들어, 지난 7월 슬래시넥스트(SlashNext) 연구원들은 웜GPT(WormGPT)와 프라우드GPT(FraudGPT)라는 두 개의 악성 챗봇을 발견했는데, 이 챗봇들은 범죄자들이 정교한 피싱 공격을 실행하는 데 도움을 주는 도구로 여겨졌습니다.

엔터프라이즈 매니지먼트 어소시에이츠의 연구 책임자인 크리스 스테펜은 해커들이 인공지능(AI) 생성 도구와 자연어 처리(NLP) 모델을 악용하여 사기 행각을 벌이고 있다고 밝혔습니다. AI를 이용해 정보, 오래된 기사, 정부 기관이나 기업의 텍스트를 모방한 문구 등을 분석함으로써 피싱 이메일은 매우 그럴듯하게 만들어져 구별하기 어려워집니다.

증가하는 공격에 대응하기 위해서는 보안 인식을 높이고 의심스러운 이메일이나 활동에 대해 경계심을 가져야 합니다. 또 다른 해결책은 피싱을 방지하기 위해 AI 및 머신러닝 기반 이메일 필터링 도구를 도입하는 것입니다. 조직은 정기적인 보안 감사를 실시하고, 시스템 취약점과 직원 교육의 미흡한 부분을 파악하며, 알려진 문제점을 신속하게 해결하여 공격 위험을 줄여야 합니다.

출처 링크: https://thanhnien.vn/lua-dao-truc-tuyen-tang-chong-mat-vi-ai-185231205041327082.htm