چالش‌های فراوان هوش مصنوعی در عصر جدید

با افزایش دسترسی به هوش مصنوعی، و با افزایش تعداد افراد و مشاغلی که از طریق ابزارهای رایج از هوش مصنوعی استفاده می‌کنند... هکرها همچنین می‌توانند حملات را خودکار کنند، عملیات را سرعت بخشند و کمپین‌های پیچیده‌تری را برای دستیابی به اهداف غیرقانونی خود به کار گیرند.

کسپرسکی انواع حملات سایبری با استفاده از هوش مصنوعی را آشکار می‌کند

انواع حملاتی که کسپرسکی مشاهده کرده است عبارتند از: ChatGPT می‌تواند برای توسعه بدافزار و اعمال خودکار حملات به چندین قربانی استفاده شود؛ برنامه‌های هوش مصنوعی به داده‌های کاربران در تلفن‌های هوشمند نفوذ می‌کنند و از طریق فرآیند تجزیه و تحلیل داده‌های حساس، می‌توانند پیام‌ها، رمزهای عبور و کدهای بانکی قربانیان را به طور کامل "بخوانند"؛ الگوریتم‌های هوش ازدحامی به شبکه‌های کامپیوتری خودکار (bonets) کمک می‌کنند تا شبکه‌های مخربی را که توسط راه‌حل‌های امنیتی حذف شده‌اند، بازیابی کنند.

تحقیقات کسپرسکی در مورد استفاده از هوش مصنوعی برای شکستن رمزهای عبور نشان می‌دهد که اکثر رمزهای عبور با استفاده از الگوریتم‌های هشینگ مانند MD5 و SHA رمزگذاری می‌شوند. یک عملیات ساده می‌تواند یک رمز عبور را به جریانی از متن رمز شده تبدیل کند، اما معکوس کردن این فرآیند چالش بزرگی است.

از طریق هوش مصنوعی، بازیگران بد می‌توانند از محتوای جعلی، شامل متن، تصویر، صدا و ویدیو ، برای راه‌اندازی حملات مهندسی اجتماعی سوءاستفاده کنند. مدل‌های زبانی بزرگی مانند ChatGPT-4o برای ایجاد اسکریپت‌ها و پیام‌های فیشینگ بسیار پیچیده استفاده می‌شوند. هوش مصنوعی با غلبه بر موانع زبانی، می‌تواند یک ایمیل واقعی بنویسد که فقط بر اساس اطلاعات موجود در شبکه‌های اجتماعی باشد. هوش مصنوعی حتی می‌تواند سبک نوشتاری قربانی را تقلید کند. این امر تشخیص رفتار فیشینگ را حتی دشوارتر می‌کند.

در عین حال، دیپ‌فیک به عنوان یک «مشکل» در امنیت سایبری وجود دارد، اگرچه قبلاً به عنوان محصول تحقیقات علمی در نظر گرفته می‌شد. جعل هویت افراد مشهور برای سود مالی رایج‌ترین روش است، در مرحله بعد، کلاهبرداران از دیپ‌فیک برای سرقت حساب‌ها، برقراری تماس‌های جعلی با دوستان و بستگان قربانیان برای تصاحب اموال استفاده می‌کنند.

علاوه بر سوءاستفاده از فناوری هوش مصنوعی برای فعالیت‌های غیرقانونی، افراد شرور می‌توانند به الگوریتم‌های هوش مصنوعی نیز حمله کنند. مانند حملات «تزریق سریع» با وارد کردن دستورات مخرب به مدل‌های زبانی بزرگ، حتی برخلاف قوانین محدود شده قبلی؛ حملات خصمانه با اضافه کردن فیلدهای اطلاعات پنهان به تصاویر یا صدا، برای تأثیرگذاری بر توانایی طبقه‌بندی تصویر سیستم یادگیری ماشین.

هوش مصنوعی به تدریج در تمام جنبه‌های زندگی بشر، از Apple Intelligence، Google Gemini گرفته تا Microsoft Copilot، ادغام می‌شود. بنابراین، پرداختن به آسیب‌پذیری‌های هوش مصنوعی باید در اولویت اصلی باشد. کسپرسکی سال‌هاست که از فناوری هوش مصنوعی برای محافظت از مشتریان و شرکا استفاده می‌کند، به طور مداوم در جستجوی آسیب‌پذیری‌ها در سیستم‌های هوش مصنوعی است، انعطاف‌پذیری سیستم را افزایش می‌دهد و به طور فعال در حال تحقیق در مورد تکنیک‌های حمله سایبری برای ارائه محافظت قابل اعتماد در برابر حملات هوش مصنوعی است.

کیم تان

منبع: https://www.sggp.org.vn/nhieu-thach-thuc-cua-ai-trong-thoi-dai-moi-post754401.html