پرامپٹ انجیکشن ایک غیر تکنیکی حملہ ہے جو ویب سائٹس یا ای میلز پر AI پروسیسر شدہ مواد میں بدنیتی پر مبنی درخواستیں داخل کرتا ہے۔ اوپن اے آئی کا کہنا ہے: "فوری انجیکشن حملے، جیسے فشنگ اور دیگر غیر تکنیکی ویب حملوں کو مکمل طور پر 'حل' کرنا تقریباً ناممکن ہے۔"
بنیاد پرست حل تلاش کرنے کے بجائے، OpenAI مسلسل دفاع کی حکمت عملی کی طرف چلا گیا۔ انہوں نے ایک AI پر مبنی "خودمختار حملہ آور" تیار کیا، جسے کمک سیکھنے کے ذریعے تربیت دی گئی تاکہ آزادانہ طور پر کمزوریوں کو تلاش کیا جا سکے، حملوں کی نقل تیار کیا جا سکے اور اندر سے ٹیسٹ سسٹم بنایا جا سکے۔
OpenAI کی کوششیں منفرد نہیں ہیں۔ Google اور Anthropic جیسے حریف بھی کثیر پرتوں والے دفاع کی تعمیر اور اپنے نظام کی مسلسل جانچ پر توجہ دے رہے ہیں۔
صارفین کے لیے کچھ حفاظتی سفارشات میں شامل ہیں: تصدیق کی ضرورت ہے : اہم اقدامات کرنے سے پہلے ہمیشہ آپ کی رضامندی طلب کرنے کے لیے AI سیٹ اپ کریں۔ رسائی کو محدود کریں : وسیع اور مبہم رسائی دینے کے بجائے مخصوص، مرکوز ہدایات فراہم کریں۔ لاگ ان کی اجازتوں کو محدود کریں : جب بالکل ضروری ہو تو صرف AI کو حساس اکاؤنٹس تک رسائی دیں۔
AI براؤزرز کا مستقبل امید افزا ہے لیکن احتیاط کی ضرورت ہے۔ سیکیورٹی کا انحصار ڈیولپرز کی دفاع کو مضبوط کرنے کی مسلسل کوششوں اور تحفظ کے بارے میں صارفین کی فعال آگاہی پر ہے۔
ماخذ: https://congluan.vn/openai-thua-nhan-moi-nguy-hiem-tren-trinh-duyet-ai-10323665.html
تبصرہ (0)