این آسیبپذیری به مهاجمان اجازه میدهد تا دستورات مخرب را مستقیماً به حافظه هوش مصنوعی تزریق کنند و یک ویژگی مفید را به سلاحی پایدار برای اجرای کد دلخواه تبدیل کنند (تصویر نمایشی: ST).
طبق گزارشی از LayerX Security، این حمله از یک آسیبپذیری جعل درخواست بینسایتی (CSRF) برای تزریق دستورات مخرب به حافظه پایدار ChatGPT سوءاستفاده کرده است.
ویژگی «حافظه» که در ابتدا برای هوش مصنوعی طراحی شده بود تا جزئیات مفیدی مانند نام کاربری و تنظیمات برگزیده برای پاسخهای شخصیسازیشده را به خاطر بسپارد، اکنون میتواند «خراب» شود.
زمانی که حافظه به بدافزار آلوده شود، این دستورات به طور دائم باقی میمانند - مگر اینکه کاربر آنها را به صورت دستی از طریق تنظیمات حذف کند - و میتوانند در چندین دستگاه و جلسه اجرا شوند.
میشل لوی، مدیر تحقیقات امنیتی در LayerX Security، گفت: «آنچه این آسیبپذیری را به طور خاص خطرناک میکند این است که حافظه پایدار هوش مصنوعی را هدف قرار میدهد، نه فقط جلسه مرورگر.»
لوی توضیح داد: «به عبارت ساده، مهاجم از یک ترفند برای «فریب» هوش مصنوعی استفاده میکند و آن را مجبور میکند تا یک دستور مخرب را در حافظه خود بنویسد. خطرناکترین بخش این است که این دستور به طور دائم در هوش مصنوعی باقی میماند - حتی اگر کاربر کامپیوتر را عوض کند، از سیستم خارج شود و دوباره وارد شود، یا حتی از مرورگر دیگری استفاده کند.»
بعداً، وقتی کاربر یک درخواست کاملاً عادی انجام میدهد، ممکن است سهواً بدافزار را فعال کند. در نتیجه، هکرها میتوانند مخفیانه کد را اجرا کنند، دادهها را بدزدند یا کنترل بیشتری بر سیستم به دست آورند.
سناریوی حمله شرح داده شده بسیار ساده است: ابتدا، کاربر وارد ChatGPT Atlas میشود. او فریب میخورد تا روی یک لینک مخرب کلیک کند، سپس وبسایت مخرب مخفیانه یک درخواست CSRF را اجرا میکند و بیسروصدا دستورالعملهای مخرب را در حافظه ChatGPT قربانی وارد میکند.
در نهایت، وقتی کاربر یک درخواست کاملاً قانونی میکند، مثلاً از هوش مصنوعی میخواهد که کد بنویسد، «خاطرات» آلوده فعال میشوند.
LayerX اشاره میکند که این مشکل به دلیل فقدان کنترلهای قوی ضد فیشینگ در ChatGPT Atlas تشدید میشود.
در آزمایشهایی که شامل بیش از ۱۰۰ آسیبپذیری و سایت فیشینگ بود، اطلس تنها توانست ۵.۸٪ از وبسایتهای مخرب را مسدود کند.
این رقم در مقایسه با گوگل کروم (۴۷٪) یا مایکروسافت اج (۵۳٪) بسیار ناچیز است و باعث میشود کاربران اطلس در مقایسه با مرورگرهای سنتی «تا ۹۰٪ بیشتر در معرض حملات قرار گیرند».
این کشف به دنبال یک آسیبپذیری تزریق سریع بدافزار دیگر که قبلاً توسط NeuralTrust نشان داده شده بود، رخ داد و نشان داد که مرورگرهای هوش مصنوعی در حال تبدیل شدن به یک جبهه حمله جدید هستند.
OpenAI اوایل هفته گذشته مرورگر وب ChatGPT Atlas را منتشر کرد. همانطور که انتظار میرفت، OpenAI موتور هوش مصنوعی ChatGPT خود را در این مرورگر ادغام کرده و پشتیبانی بهتری را برای کاربران در هنگام مرور وب فراهم میکند.
هر زمان که کاربر روی نتیجه جستجو در ChatGPT Atlas کلیک کند، یک کادر محاورهای ChatGPT درست در کنار پنجره صفحه وب ظاهر میشود و به او امکان میدهد سوالاتی مربوط به محتوای مشاهده شده بپرسد و در زمان خواندن صرفهجویی کند.
ChatGPT همچنین میتواند محتوای وبسایت را خلاصه کند، متن را هنگام نوشتن ایمیل ویرایش کند یا راههایی برای بازنویسی آن برای مطابقت بهتر با متن پیشنهاد دهد.
منبع: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
نظر (0)