يُعدّ حقن الطلبات هجومًا غير تقني يُدخل طلبات خبيثة في محتوى مُعالَج بواسطة الذكاء الاصطناعي على مواقع الويب أو رسائل البريد الإلكتروني. وتقول OpenAI: "يكاد يكون من المستحيل حلّ هجمات حقن الطلبات، مثل التصيّد الاحتيالي وغيره من الهجمات الإلكترونية غير التقنية، بشكل كامل".
بدلاً من البحث عن حل جذري، تحولت شركة OpenAI إلى استراتيجية الدفاع المستمر. فقد طورت "مهاجمًا ذاتيًا" قائمًا على الذكاء الاصطناعي، تم تدريبه من خلال التعلم المعزز لاكتشاف الثغرات الأمنية بشكل مستقل، ومحاكاة الهجمات، واختبار الأنظمة من الداخل.
جهود OpenAI ليست فريدة من نوعها. فالمنافسون مثل جوجل وأنثروبيك يركزون أيضاً على بناء دفاعات متعددة الطبقات واختبار أنظمتهم باستمرار.
تتضمن بعض توصيات السلامة للمستخدمين ما يلي: طلب التأكيد : قم بإعداد الذكاء الاصطناعي ليطلب موافقتك دائمًا قبل اتخاذ إجراءات مهمة؛ تقييد الوصول : قدم تعليمات محددة ومركزة بدلاً من منح وصول واسع وغامض؛ الحد من أذونات تسجيل الدخول : امنح الذكاء الاصطناعي إمكانية الوصول إلى الحسابات الحساسة فقط عند الضرورة القصوى.
مستقبل متصفحات الذكاء الاصطناعي واعد، لكنه يتطلب الحذر. يعتمد الأمن على الجهود المستمرة التي يبذلها المطورون لتعزيز الحماية، وعلى وعي المستخدمين الاستباقي بأهمية الحماية.
المصدر: https://congluan.vn/openai-thua-nhan-moi-nguy-hiem-tren-trinh-duyet-ai-10323665.html
تعليق (0)