על פי BGR , דו"ח מחקר חדש חשף טכניקה מדאיגה בשם 'Fun-Tuning', המשתמשת בבינה מלאכותית (AI) כדי לייצר באופן אוטומטי התקפות הזרקה מהירה יעילות ביותר המכוונות לדגמי בינה מלאכותית מתקדמים אחרים, כולל ג'מיני של גוגל.
שיטה זו הופכת את 'פריצת' הבינה המלאכותית למהירה, זולה וקלה מאי פעם, ומסמנת הסלמה חדשה בקרב הסייבר הכרוך בבינה מלאכותית.
הסכנה של גורמים זדוניים המשתמשים בבינה מלאכותית כדי לפרוץ את הבינה המלאכותית.
הזרקה מהירה (Prompt Injection) היא טכניקה שבה גורמים זדוניים מחדירים בחשאי הוראות מזיקות לנתוני הקלט של מודל בינה מלאכותית (למשל, באמצעות הערות בקוד המקור, טקסט מוסתר באינטרנט). המטרה היא 'להערים' על הבינה המלאכותית, לאלץ אותה להתעלם מכללי בטיחות מתוכנתים מראש, מה שמוביל לתוצאות חמורות כגון דליפת נתונים רגישים, מתן מידע שגוי או ביצוע פעולות מסוכנות אחרות.
האקרים משתמשים בבינה מלאכותית כדי לתקוף בינה מלאכותית.
תמונה: צילום מסך מלינקדאין
בעבר, ביצוע מוצלח של התקפות אלו, במיוחד על דגמים "סגורים" כמו ג'מיני או GPT-4, דרש לעתים קרובות בדיקות ידניות מורכבות וגוזלות זמן רב.
אבל Fun-Tuning שינתה לחלוטין את הנוף. שיטה זו, שפותחה על ידי צוות חוקרים מאוניברסיטאות מרובות, מנצלת בחוכמה את ממשק תכנות היישומים (API) המשוכלל שגוגל מספקת בחינם למשתמשי ג'מיני.
על ידי ניתוח התגובות העדינות של מודל Gemini במהלך תהליך הכוונון (לדוגמה, כיצד הוא מגיב לשגיאות בנתונים), Fun-Tuning יכולה לזהות באופן אוטומטי את ה"קידומות" וה"סיומות" היעילות ביותר כדי להסוות הצהרה זדונית. זה מגדיל משמעותית את הסבירות שהבינה המלאכותית תציית לכוונות הזדוניות של התוקף.
תוצאות הבדיקה מראות ש-Fun-Tuning השיגה שיעור הצלחה של עד 82% בגרסאות מסוימות של ג'מיני, נתון גבוה בהרבה מ-30% שהושגו בשיטות התקפה מסורתיות, פחות מ-30%.
מה שמוסיף לסכנה של Fun-Tuning הוא עלות הביצוע הנמוכה ביותר שלו. מכיוון שממשק ה-API של Google לכיוון כיוון מסופק בחינם, עלות החישוב ליצירת מתקפה יעילה יכולה להיות נמוכה עד 10 דולר. יתר על כן, חוקרים גילו כי מתקפה שתוכננה עבור גרסה אחת של Gemini ניתנת ליישום בהצלחה בקלות על גרסאות אחרות, מה שפותח את הסיכון להתקפות נרחבות.
גוגל אישרה שהיא מודעת לאיום שמציב טכניקת Fun-Tuning, אך טרם הגיבה האם היא תשנה את אופן פעולתו של ממשק ה-API של הכוונון. צוות המחקר גם ציין את הקושי בהגנה מפני כך: אם המידע שמנוצל על ידי Fun-Tuning יוסר מתהליך הכוונון, ממשק ה-API יהפוך לפחות שימושי למפתחים לגיטימיים. לעומת זאת, אם הוא יישאר ללא שינוי, הוא ימשיך לשמש קרש קפיצה לניצול של גורמים זדוניים.
הופעתה של Fun-Tuning היא אזהרה ברורה, המצביעה על כך שהעימות במרחב הקיברנטי נכנס לשלב חדש ומורכב יותר. בינה מלאכותית היא כעת לא רק מטרה אלא גם כלי ונשק בידי גורמים זדוניים.
[מודעה_2]
מקור: https://thanhnien.vn/hacker-dung-ai-de-tan-cong-gemini-cua-google-18525033010473121.htm
תגובה (0)