کلاهبرداری هوش مصنوعی، تهدیدی جدی برای امنیت سایبری

فیشینگ مدت‌هاست که سلاح مورد علاقه هکرها در دنیای سایبری بوده است. این حمله به عنوان مقدمه‌ای برای حملات مختلف عمل می‌کند و امکان سرقت اطلاعات احراز هویت، نفوذ به زیرساخت‌ها و اختلال در عملیات را فراهم می‌کند.

chatgpt مشخص شده عمومی languag.jpg — ظهور هوش مصنوعی (AI) هم پتانسیل و هم چالش‌ها را به همراه دارد، به خصوص در رابطه با امنیت سایبری.

ظهور مدل‌های یادگیری ماشین از پیش آموزش‌دیده (GPT) بُعد تهدید جدیدی را به چشم‌انداز امنیت سایبری معرفی کرده است. GPT یک مدل زبانی بزرگ و چارچوب پیشرو برای هوش مصنوعی مولد است.

توانایی تولید متن مصنوعی قانع‌کننده در مقیاس بزرگ، نگرانی‌هایی را در بین کارشناسان امنیتی ایجاد کرده است. این امر می‌تواند تأثیر زیادی بر کلاهبرداری مبتنی بر هوش مصنوعی، کلاهبرداری ایمیلی، از جمله هک ایمیل‌های تجاری (BEC) داشته باشد.

فیشینگ مبتنی بر فریب کاربر نهایی است تا باور کند که ایمیل از یک نهاد قانونی سرچشمه می‌گیرد. GPT می‌تواند با ایجاد پاسخ‌هایی که با سبک و زبان مطابقت دارند، در این فرآیند کمک کند و گیرنده را متقاعد کند که با یک همکار یا فرد مورد اعتماد در تعامل است. این امر تمایز بین متن تولید شده توسط ماشین و متن تولید شده توسط انسان در پیام‌ها را به طور فزاینده‌ای دشوار می‌کند.

در حالی که ابزارهایی برای شناسایی متن تولید شده توسط ماشین در دسترس هستند، ما باید برای سناریویی آماده باشیم که در آن GPTها برای دور زدن این محافظت‌ها تکامل می‌یابند. علاوه بر این، هکرها می‌توانند از مدل‌های مشابه GPT برای ایجاد تصاویر، ویدیوها یا هدف قرار دادن صنایع خاص استفاده کنند و خطرات امنیت سایبری را بیشتر افزایش دهند.

برای کاهش این تهدیدات، افراد و سازمان‌ها باید از همان ابتدا راهکارهای محافظت از ایمیل مبتنی بر هوش مصنوعی را به کار گیرند. هوش مصنوعی می‌تواند به طور مؤثر با تاکتیک‌های مدرن جرایم سایبری مقابله کرده و فعالیت‌های مشکوک را شناسایی کند.

احراز هویت چند عاملی (MFA) و روش‌های شناسایی بیومتریک می‌توانند امنیت را افزایش دهند و یک لایه محافظتی اضافی در برابر نفوذ هکرها فراهم کنند.

علاوه بر اقدامات تکنولوژیکی، برنامه‌های آموزشی و آگاهی‌بخشی منظم برای بهبود عنصر انسانی در برابر حملات فیشینگ مهم هستند. تجربه و هوشیاری انسانی به تشخیص و پاسخ مؤثر به تلاش‌های فیشینگ کمک می‌کند. می‌توان از بازی‌سازی و شبیه‌سازی برای افزایش آگاهی و شناسایی کاربران در معرض خطر حملات سایبری استفاده کرد.

با افزایش شیوع کمپین‌های فیشینگ مبتنی بر GPT، سازمان‌ها باید در تلاش‌های امنیت سایبری خود پیشگیرانه عمل کنند. با درک قابلیت‌های فناوری GPT و اجرای اقدامات امنیتی قوی، می‌توانیم به طور مؤثر در برابر این تهدید رو به رشد فیشینگ مبتنی بر هوش مصنوعی دفاع کنیم.

(نوشته باراکودا)

منبع