تسمح هذه الثغرة الأمنية للمهاجمين بحقن أوامر خبيثة مباشرة في ذاكرة الذكاء الاصطناعي، مما يحول ميزة مفيدة إلى سلاح دائم لتنفيذ التعليمات البرمجية العشوائية (صورة توضيحية: ST).
وفقًا لتقرير من شركة LayerX Security، استغل هذا الهجوم ثغرة أمنية من نوع Cross-Site Request Forgery (CSRF) لحقن أوامر ضارة في الذاكرة الدائمة لبرنامج ChatGPT.
يمكن الآن "تعطيل" ميزة "الذاكرة"، المصممة أصلاً لكي تتذكر أنظمة الذكاء الاصطناعي تفاصيل مفيدة مثل أسماء المستخدمين وتفضيلاتهم للحصول على ردود شخصية.
بمجرد إصابة الذاكرة بالبرامج الضارة، ستستمر هذه الأوامر بشكل دائم - ما لم يقم المستخدم بحذفها يدويًا من خلال الإعدادات - ويمكن تشغيلها عبر أجهزة وجلسات متعددة.
"ما يجعل هذه الثغرة الأمنية خطيرة بشكل خاص هو أنها تستهدف الذاكرة الدائمة للذكاء الاصطناعي، وليس مجرد جلسة المتصفح"، كما قالت ميشيل ليفي، مديرة أبحاث الأمن في شركة LayerX Security.
أوضح ليفي قائلاً: "ببساطة، يستخدم المهاجم حيلةً لخداع الذكاء الاصطناعي، وإجباره على كتابة أمر خبيث في ذاكرته. والأخطر من ذلك أن هذا الأمر سيبقى في الذكاء الاصطناعي بشكل دائم، حتى لو قام المستخدم بتغيير جهازه، أو تسجيل الخروج ثم تسجيل الدخول مرة أخرى، أو حتى استخدام متصفح مختلف."
لاحقًا، عندما يقوم المستخدم بطلب عادي تمامًا، قد يقوم بتفعيل البرمجيات الخبيثة دون قصد. ونتيجة لذلك، يمكن للمخترقين تشغيل التعليمات البرمجية خلسةً، وسرقة البيانات، أو الحصول على سيطرة أكبر على النظام.
سيناريو الهجوم الموصوف بسيط للغاية: أولاً، يقوم المستخدم بتسجيل الدخول إلى ChatGPT Atlas. يتم خداعه للنقر على رابط خبيث، ثم يقوم الموقع الإلكتروني الخبيث بتشغيل طلب CSRF سراً، مما يؤدي إلى إدخال تعليمات خبيثة في ذاكرة ChatGPT الخاصة بالضحية دون علمه.
وأخيرًا، عندما يقوم المستخدم بإجراء استعلام مشروع تمامًا، على سبيل المثال يطلب من الذكاء الاصطناعي كتابة التعليمات البرمجية، سيتم تشغيل "الذكريات" المصابة.
تشير شركة LayerX إلى أن المشكلة تتفاقم بسبب افتقار ChatGPT Atlas إلى ضوابط قوية لمكافحة التصيد الاحتيالي.
في الاختبارات التي شملت أكثر من 100 ثغرة أمنية ومواقع تصيد احتيالي، لم يتمكن برنامج أطلس إلا من حظر 5.8% من المواقع الإلكترونية الضارة.
هذا الرقم متواضع للغاية مقارنة بـ Google Chrome (47٪) أو Microsoft Edge (53٪)، مما يجعل مستخدمي Atlas "أكثر عرضة للهجمات بنسبة تصل إلى 90٪" مقارنة بالمتصفحات التقليدية.
يأتي هذا الاكتشاف في أعقاب ثغرة أمنية أخرى تتعلق بحقن البرامج الضارة السريعة والتي سبق أن أظهرتها شركة NeuralTrust، مما يدل على أن متصفحات الذكاء الاصطناعي أصبحت جبهة هجوم جديدة.
أطلقت شركة OpenAI متصفح الويب ChatGPT Atlas في وقت سابق من الأسبوع الماضي. وكما هو متوقع، قامت OpenAI بدمج محرك الذكاء الاصطناعي ChatGPT في هذا المتصفح، مما يوفر دعمًا أفضل للمستخدمين أثناء تصفح الإنترنت.
عندما ينقر المستخدم على نتيجة بحث في ChatGPT Atlas، سيظهر مربع حوار ChatGPT بجوار نافذة صفحة الويب مباشرةً، مما يسمح لهم بطرح أسئلة تتعلق بالمحتوى المعروض، مما يوفر وقت القراءة.
يمكن لـ ChatGPT أيضًا تلخيص محتوى الموقع الإلكتروني، وتحرير النصوص عند كتابة رسائل البريد الإلكتروني، أو اقتراح طرق لإعادة كتابتها لتناسب السياق بشكل أفضل.
المصدر: https://dantri.com.vn/cong-nghe/nguoi-dung-chatgpt-atlas-co-the-bi-danh-cap-du-lieu-voi-ma-doc-vinh-vien-20251028111706750.htm
تعليق (0)