آسیب‌پذیری جدی در ChatGPT و مجموعه‌ای از دستیاران هوش مصنوعی: کاربران کلاهبرداری می‌شوند، اطلاعات فاش می‌شود...

هکرها می‌توانند با استفاده از این آسیب‌پذیری، ChatGPT را وادار کنند تا به کاربران پیشنهاد دانلود نرم‌افزارهای حاوی ویروس را بدهد، مشاوره‌های تجاری نادرست بدهد و حتی به فایل‌های موجود در گوگل درایو دسترسی پیدا کند...

آسیب‌پذیری «Zero Click» حتی به هکرها اجازه می‌دهد ChatGPT را کنترل کنند تا هر طور که می‌خواهند عمل کند - عکس از خبرگزاری فرانسه

شرکت امنیت سایبری اسرائیلی Zenity اولین آسیب‌پذیری «Zero Click» کشف‌شده در سرویس ChatGPT شرکت OpenAI را فاش کرد.

این نوع حمله نیازی به انجام هیچ عملی مانند کلیک روی لینک، باز کردن فایل یا انجام هرگونه تعامل عمدی توسط کاربران ندارد، اما همچنان می‌تواند به حساب‌ها دسترسی پیدا کرده و داده‌های حساس را فاش کند.

میخائیل برگوری، یکی از بنیانگذاران و مدیر ارشد فناوری Zenity، به طور مستقیم نشان داد که چگونه یک هکر تنها با آدرس ایمیل کاربر می‌تواند کنترل کامل مکالمات - از جمله محتوای گذشته و آینده - را در دست بگیرد، هدف مکالمه را تغییر دهد و حتی ChatGPT را دستکاری کند تا طبق خواسته‌های هکر عمل کند.

محققان در ارائه خود نشان دادند که یک ChatGPT آسیب‌دیده می‌تواند به یک «عامل مخرب» تبدیل شود که مخفیانه علیه کاربران فعالیت می‌کند. هکرها می‌توانند ChatGPT را وادار کنند که به کاربران پیشنهاد دانلود نرم‌افزارهای آلوده به ویروس را بدهد، مشاوره‌های تجاری گمراه‌کننده ارائه دهد یا در صورت اتصال حساب کاربری، به فایل‌های ذخیره شده در گوگل درایو دسترسی پیدا کند. همه این اتفاقات بدون اطلاع کاربر رخ می‌دهد.

این آسیب‌پذیری تنها پس از آنکه Zenity به OpenAI اطلاع داد، به‌طور کامل وصله شد.

علاوه بر ChatGPT، Zenity حملات مشابهی را علیه سایر پلتفرم‌های دستیار هوش مصنوعی محبوب نیز نشان داده است. در Copilot Studio مایکروسافت، محققان کشف کردند که چگونه می‌توان کل پایگاه‌های داده CRM را فاش کرد.

برای Salesforce Einstein، هکرها می‌توانند درخواست‌های جعلی خدمات ایجاد کنند تا تمام ارتباطات مشتری را به آدرس‌های ایمیلی که کنترل می‌کنند، هدایت کنند.

گوگل جمینی و مایکروسافت ۳۶۵ کوپایلوت نیز به «عوامل متخاصم» تبدیل شدند که حملات فیشینگ انجام می‌دادند و اطلاعات حساس را از طریق ایمیل‌ها و رویدادهای تقویم فاش می‌کردند.

در مثالی دیگر، ابزار توسعه نرم‌افزار Cursor، هنگامی که با Jira MCP ادغام شد، برای سرقت اعتبارنامه‌های توسعه‌دهندگان از طریق «تیکت‌های» جعلی نیز مورد سوءاستفاده قرار گرفت.

Zenity گفت برخی شرکت‌ها، مانند OpenAI و مایکروسافت، پس از دریافت هشدار، به سرعت وصله‌هایی را منتشر کردند. با این حال، برخی دیگر از رسیدگی به این مشکل خودداری کردند و استدلال کردند که این رفتار یک «ویژگی طراحی» است نه یک آسیب‌پذیری امنیتی.

به گفته میخائیل برگوری، چالش بزرگ اکنون این است که دستیاران هوش مصنوعی فقط وظایف ساده‌ای انجام نمی‌دهند، بلکه در حال تبدیل شدن به "موجودیت‌های دیجیتالی" هستند که نماینده کاربران هستند - قادر به باز کردن پوشه‌ها، ارسال فایل‌ها و دسترسی به ایمیل‌ها. او هشدار داد که این [سیستم/سیستم/...] مانند "بهشت" برای هکرها است، با این همه نقاط سوءاستفاده.

بن کالیگر، بنیانگذار و مدیرعامل Zenity، گفت تحقیقات این شرکت نشان می‌دهد که روش‌های امنیتی فعلی دیگر برای نحوه عملکرد دستیاران هوش مصنوعی مناسب نیستند. او از سازمان‌ها خواست تا رویکرد خود را تغییر دهند و روی راه‌حل‌های تخصصی برای کنترل و نظارت بر فعالیت‌های این «عوامل» سرمایه‌گذاری کنند.

شرکت زنیتی در سال ۲۰۲۱ تأسیس شد. این شرکت در حال حاضر حدود ۱۱۰ کارمند در سراسر جهان دارد که ۷۰ نفر از آنها در دفتر تل‌آویو کار می‌کنند. بسیاری از شرکت‌های فورچون ۱۰۰ و حتی فورچون ۵ از مشتریان زنیتی هستند.

بازگشت به موضوع

وی ان ای

منبع: https://tuoitre.vn/lo-hong-nghiem-trong-tren-chatgpt-va-loat-tro-ly-ai-nguoi-dung-bi-lua-dao-lo-thong-tin-20250811131018876.htm