העולם צריך לפעול בדחיפות כדי להתמודד עם איום זה לפני שהבינה המלאכותית תהפוך לבלתי ניתנת לשליטה על ידי בני אדם.
האזהרה הדחופה פורסמה בהצהרה מ-23 ביוני של מועצת הניטור וההערכה של המודיעין Five Eyes (FIORC), שאישרה כי קביעת אמצעי הגנה מפני בינה מלאכותית כעת היא חיונית למניעת הסיכון למשבר סייבר עולמי.
מדינות מאמינות שקצב פיתוח הבינה המלאכותית כיום עולה בהרבה על פיתוח מנגנונים לניהול והגנה על אבטחה.
בהצהרה נאמר: "מודלים מתקדמים של בינה מלאכותית צפויים בקרוב לעלות על הציפיות הנוכחיות, וישנו באופן מהותי הן את יכולות התקיפה הקיברנטית והן את יכולות ההגנה. מסגרת הזמן אינה שנים, אלא רק חודשים.
אחת הדאגות היא השימוש הגובר במודלי שפה גדולים (LLM) כדי להפוך את תהליך כתיבת קוד זדוני לאוטומטי. טכנולוגיית Deepfake (זיוף תמונות וקול מבוסס בינה מלאכותית) מתפתחת גם היא בקצב מדאיג.
הסיכונים אינם מוגבלים לפשעי סייבר או הונאה פיננסית; בינה מלאכותית יכולה להיות מנוצלת גם כדי לתמרן את דעת הקהל, להפיץ מידע שגוי ולהשפיע ישירות על הביטחון הלאומי.
הברית פרסמה המלצות דחופות, תוך התמקדות במעבר משמעותי למודל מניעה פרואקטיבי ואחריותיות רבה יותר מצד תאגידי טכנולוגיה גדולים על מוצרי הבינה המלאכותית שהן מפתחות.
יש לשלב אמצעי אבטחת סייבר כבר משלב תכנון המערכת. יש לשפר את שיתוף הנתונים והמודיעין בזמן אמת בין המגזר הציבורי והפרטי...
על פי מרכז אבטחת הסייבר האוסטרלי (ACSC), אם לא ייקבעו במהירות סטנדרטים גלובליים של אבטחה לבינה מלאכותית, העולם עלול להתמודד עם הסיכון שהאינטרנט יופעל על ידי אלגוריתמים מורכבים וקשים יותר לשליטה.
מקור: https://nhandan.vn/canh-bao-rui-ro-ai-gia-tang-post971028.html
