OpenAI מכירה בסכנות הטמונות בדפדפני בינה מלאכותית.

הזרקה מיידית (Prompt Injection ) היא מתקפה לא טכנית שמזריקה בקשות זדוניות לתוכן המעובד על ידי בינה מלאכותית באתרי אינטרנט או בדוא"ל. OpenAI קובעת: "התקפות הזרקה מיידית, כמו פישינג והתקפות אינטרנט לא טכניות אחרות, כמעט בלתי אפשריות ל'פתרון' לחלוטין."

במקום לחפש פתרון רדיקלי, OpenAI עברה לאסטרטגיה של הגנה מתמשכת. הם פיתחו "תוקף אוטונומי" מבוסס בינה מלאכותית, שאומן באמצעות למידת חיזוקים למצוא באופן עצמאי פגיעויות, לדמות התקפות ולבדוק מערכות מבפנים.

openai-prompt-injection-demo-2.png.webp — OpenAI ממחיש את שיטת התקיפה Prompt Injection.

מאמציה של OpenAI אינם ייחודיים. מתחרים כמו גוגל ואנתרופיק מתמקדים גם הם בבניית הגנות רב-שכבתיות ובודקים באופן רציף את המערכות שלהם.

כמה המלצות בטיחות למשתמשים כוללות: דרישה לאישור : הגדר את הבינה המלאכותית כך שתמיד תבקש את הסכמתך לפני ביצוע פעולות חשובות; הגבלת גישה : מתן הוראות ספציפיות וממוקדות במקום מתן גישה רחבה ומעורפלת; הגבלת הרשאות התחברות : הענקת גישה לבינה מלאכותית לחשבונות רגישים רק כאשר הכרחי לחלוטין.

עתידם של דפדפני בינה מלאכותית מבטיח אך דורש זהירות. האבטחה תלויה במאמצים המתמשכים של מפתחים לחזק את ההגנות ובמודעות יזומה של המשתמשים להגנה.

מקור: https://congluan.vn/openai-thua-nhan-moi-nguy-hiem-tren-trinh-duyet-ai-10323665.html