کاربران ChatGPT در معرض خطر سرقت اطلاعات هستند

ویژگی حافظه بلندمدت ChatGPT یک ویژگی جدید است که توسط OpenAI در فوریه 2024 معرفی و در سپتامبر گسترش یافت.

اخیراً، یوهان رهبرگر، محقق امنیتی، یک آسیب‌پذیری جدی مربوط به این ویژگی را فاش کرد.

مشخص است که این ویژگی جدید به چت‌بات‌ها کمک می‌کند تا اطلاعات مکالمات قبلی را ذخیره کنند. به لطف این، کاربران مجبور نیستند هر بار که چت می‌کنند، اطلاعاتی مانند سن، علایق یا دیدگاه‌های شخصی را دوباره وارد کنند. با این حال، این به یک نقطه ضعف برای مهاجمان تبدیل شده است تا از آن سوءاستفاده کنند.

کاربران ChatGPT در معرض خطر سرقت اطلاعات هستند

یوهان رهبرگر نشان داد که هکرها می‌توانند از تکنیکی به نام تزریق سریع استفاده کنند - وارد کردن دستورالعمل‌های مخرب به حافظه و مجبور کردن هوش مصنوعی به اطاعت. این دستورات از طریق محتوای غیرقابل اعتماد مانند ایمیل، اسناد یا وب‌سایت‌ها ارسال می‌شوند.

پس از ذخیره این خاطرات جعلی، هوش مصنوعی همچنان از آنها به عنوان اطلاعات واقعی در مکالمات با کاربران استفاده خواهد کرد که می‌تواند منجر به جمع‌آوری و سوءاستفاده از اطلاعات شخصی کاربران شود.

رهبرگر با ارسال لینکی حاوی یک تصویر مخرب که باعث ذخیره حافظه کاذب در ChatGPT می‌شد، مثال خاصی ارائه داد. این اطلاعات بر پاسخ‌های آینده ChatGPT تأثیر می‌گذاشت. به طور خاص، هر اطلاعاتی که کاربر وارد می‌کرد، به سرور هکر نیز ارسال می‌شد.

بر این اساس، برای شروع حمله، هکر فقط باید کاربران ChatGPT را متقاعد کند که روی لینکی حاوی تصویر مخرب کلیک کنند. پس از آن، تمام چت‌های کاربر با ChatGPT بدون هیچ ردی به سرور مهاجم هدایت می‌شوند.

رهبرگر این اشکال را در ماه مه ۲۰۲۴ به OpenAi گزارش داد، اما این شرکت آن را فقط یک نقص امنیتی دانست. پس از دریافت شواهدی مبنی بر احتمال سرقت اطلاعات کاربران، این شرکت یک وصله موقت برای نسخه وب ChatGPT منتشر کرد.

اگرچه این مشکل به طور موقت برطرف شده است، اما رهبرگر خاطرنشان می‌کند که محتوای غیرقابل اعتماد هنوز می‌تواند از تزریق Prompt برای وارد کردن اطلاعات جعلی به حافظه بلندمدت ChatGPT استفاده کند. این بدان معناست که در موارد خاص، هکرها هنوز می‌توانند از این آسیب‌پذیری برای ذخیره خاطرات مخرب جهت سرقت اطلاعات شخصی در درازمدت سوءاستفاده کنند.

OpenAI به کاربران توصیه می‌کند که به‌طور منظم حافظه‌های ذخیره‌شده‌ی ChatGPT را برای یافتن موارد مثبت کاذب بررسی کنند و این شرکت همچنین دستورالعمل‌های دقیقی در مورد نحوه‌ی مدیریت و حذف حافظه‌های ذخیره‌شده در این ابزار ارائه می‌دهد.

منبع: https://kinhtedothi.vn/nguoi-dung-chatgpt-co-nguy-co-bi-danh-cap-thong-tin.html