کلاهبرداری‌های مبتنی بر هوش مصنوعی تهدیدی جدی برای امنیت سایبری محسوب می‌شوند.

فیشینگ مدت‌هاست که سلاح مورد علاقه هکرها در دنیای سایبری بوده است. این حمله به عنوان مقدمه‌ای برای حملات مختلف عمل می‌کند و امکان سرقت اطلاعات کاربری، نقض زیرساخت‌ها و اختلالات عملیاتی را فراهم می‌کند.

chatgpt مشخص شده عمومی languag.jpg — ظهور هوش مصنوعی (AI) هم پتانسیل و هم چالش‌هایی را به همراه دارد، به ویژه برای امنیت سایبری.

ظهور مدل‌های یادگیری ماشین از پیش آموزش‌دیده (GPT) جنبه‌ی ریسک جدیدی را برای چشم‌انداز امنیت سایبری ایجاد کرده است. GPT یک مدل زبانی بزرگ و چارچوب پیشرو برای هوش مصنوعی مولد است.

توانایی تولید متن مصنوعی قانع‌کننده در مقیاس وسیع، نگرانی‌هایی را در بین کارشناسان امنیتی ایجاد کرده است. این امر می‌تواند تأثیر قابل توجهی بر فیشینگ مبتنی بر هوش مصنوعی، فیشینگ ایمیلی، از جمله نقض‌های ایمیل تجاری (BEC) داشته باشد.

تلاش‌های فیشینگ با فریب کاربران نهایی به این باور که ایمیل‌ها از یک نهاد قانونی ارسال شده‌اند، انجام می‌شود. GPT (تهدید پایدار عمومی) می‌تواند این فرآیند را با تولید پاسخ‌هایی که از نظر سبک و زبان مناسب هستند، تسهیل کند و گیرندگان را به اشتباه به این باور برساند که با یک همکار یا فرد مورد اعتماد در تعامل هستند. این امر تشخیص بین متن تولید شده توسط ماشین و متن تولید شده توسط انسان در پیام‌ها را به طور فزاینده‌ای دشوار می‌کند.

اگرچه در حال حاضر ابزارهایی برای شناسایی متن تولید شده توسط ماشین در دسترس هستند، اما باید برای سناریویی آماده باشیم که در آن GPT برای دور زدن این محافظت‌ها تکامل یابد. علاوه بر این، هکرها می‌توانند از الگوهای مشابه GPT برای ایجاد تصاویر، ویدیوها یا هدف قرار دادن صنایع خاص استفاده کنند و خطرات امنیت سایبری را بیشتر افزایش دهند.

برای کاهش این تهدیدات، افراد و سازمان‌ها باید از همان ابتدا راهکارهای محافظت از ایمیل مبتنی بر هوش مصنوعی را به کار گیرند. هوش مصنوعی می‌تواند به طور مؤثر با تاکتیک‌های مدرن جرایم سایبری مبارزه کرده و فعالیت‌های مشکوک را شناسایی کند.

احراز هویت چند عاملی (MFA) و روش‌های شناسایی بیومتریک می‌توانند امنیت را افزایش دهند و یک لایه محافظتی اضافی در برابر نفوذ هکرها فراهم کنند.

علاوه بر اقدامات تکنولوژیکی، برنامه‌های آموزشی و آگاهی‌بخشی مداوم برای بهبود عنصر انسانی در مواجهه با حملات فیشینگ بسیار مهم هستند. تجربه و هوشیاری انسانی به تشخیص و پاسخ مؤثر به تلاش‌های فیشینگ کمک خواهد کرد. می‌توان از بازی‌سازی و شبیه‌سازی برای افزایش آگاهی و شناسایی کاربران در معرض خطر حملات سایبری استفاده کرد.

با توجه به افزایش شیوع کمپین‌های فیشینگ مبتنی بر GPT، سازمان‌ها باید به طور فعال امنیت سایبری خود را افزایش دهند. با درک قابلیت‌های فناوری GPT و اجرای اقدامات امنیتی قوی، می‌توانیم به طور مؤثر در برابر این تهدید رو به رشد فیشینگ مبتنی بر هوش مصنوعی دفاع کنیم.

(طبق گفته باراکودا)

منبع