تزریق سریع یک حمله غیرفنی است که درخواستهای مخرب را به محتوای پردازششده توسط هوش مصنوعی در وبسایتها یا ایمیلها تزریق میکند. OpenAI اظهار میکند: «حملات تزریق سریع، مانند فیشینگ و سایر حملات وب غیرفنی، تقریباً غیرممکن است که بهطور کامل «حل» شوند.»
OpenAI به جای جستجوی یک راه حل اساسی، به استراتژی دفاع مداوم روی آورد. آنها یک "مهاجم خودمختار" مبتنی بر هوش مصنوعی توسعه دادند که از طریق یادگیری تقویتی آموزش دیده بود تا به طور مستقل آسیبپذیریها را پیدا کند، حملات را شبیهسازی کند و سیستمها را از درون آزمایش کند.
تلاشهای OpenAI منحصر به فرد نیست. رقبایی مانند گوگل و آنتروپیک نیز بر ساخت دفاعهای چندلایه تمرکز دارند و به طور مداوم سیستمهای خود را آزمایش میکنند.
برخی از توصیههای ایمنی برای کاربران عبارتند از: درخواست تأیید : هوش مصنوعی را طوری تنظیم کنید که همیشه قبل از انجام اقدامات مهم، رضایت شما را جویا شود؛ دسترسی را محدود کنید : به جای اعطای دسترسیهای گسترده و مبهم، دستورالعملهای خاص و متمرکز ارائه دهید؛ مجوزهای ورود را محدود کنید : فقط در مواقع ضروری به هوش مصنوعی دسترسی به حسابهای حساس را بدهید.
آینده مرورگرهای هوش مصنوعی امیدوارکننده است، اما نیاز به احتیاط دارد. امنیت به تلاشهای مستمر توسعهدهندگان برای تقویت دفاع و آگاهی پیشگیرانه کاربران از حفاظت بستگی دارد.
منبع: https://congluan.vn/openai-thua-nhan-moi-nguy-hiem-tren-trinh-duyet-ai-10323665.html
نظر (0)