מציאת סטנדרטים של בטיחות לבינה מלאכותית

SGGP 31 ביולי, 2023 09:35

לאחר שאירופה החלה לנסח ובמהרה השיקה את החוק הראשון בעולם בנושא בינה מלאכותית (AI), ארבע ענקיות כריית הנתונים המובילות בארה"ב השיקו זה עתה קבוצה בשם Frontier Model Forum.

המטרה המרכזית של פורום מודל החזית היא לקדם בינה מלאכותית באחריות. צילום: THINKWITHNICHE

הצדדים מתקרבים זה לזה

הקבוצה, הכוללת את Anthropic, גוגל, מיקרוסופט ו-OpenAI, בעלת ChatGPT, מסרה כי המטרות המרכזיות של פורום המודל של Frontier הן לסייע בהפחתת הסיכונים שמציבות פלטפורמות בינה מלאכותית ולפתח סטנדרטים בתעשייה. פורום המודל של Frontier ייצור פורום חדש עם המטרות העיקריות הבאות: קידום מחקר בטיחות בתחום הבינה המלאכותית לתמיכה בפיתוח, הפחתת סיכונים וסטנדרטיזציה של הערכות ורמות בטיחות; זיהוי שיטות עבודה מומלצות לפיתוח ופריסה של מודלים; סיוע לציבור להבין את אופייה, היכולות, המגבלות וההשפעות של הטכנולוגיה; ושיתוף פעולה עם קובעי מדיניות, אנשי אקדמיה, החברה האזרחית וחברות כדי לשתף ידע על סיכונים ובטיחות.

ענקיות טכנולוגיה התנגדו באופן מסורתי לרגולציה מוגברת, אך הפעם, תעשיית הטכנולוגיה שינתה את עמדתה באופן כללי בנוגע לחששות הגוברים בנוגע לסיכונים שמציבה בינה מלאכותית. החברות המעורבות ביוזמת Frontier Model Forum התחייבו לשתף שיטות עבודה מומלצות בין חברות, ולהנגיש מידע לציבור לממשלות ולחברה האזרחית.

באופן ספציפי, פורום מודל Frontier יתמקד בפלטפורמות למידת מכונה בקנה מידה גדול, שעדיין בתחילת דרכן, אשר לוקחות את הבינה המלאכותית לרמות תחכום חדשות - וזהו גם גורם סיכון פוטנציאלי. בנוסף, פורום מודל Frontier יתמוך גם בפיתוח יישומים המתמודדים עם אתגרים חברתיים מרכזיים כגון: הפחתה והסתגלות לשינויי אקלים, גילוי ומניעה מוקדמים של סרטן, והתמודדות עם איומי סייבר.

מקום להרס פוטנציאלי

ההכרזה על פורום מודל החזית של חברות אמריקאיות מגיעה מספר ימים לאחר שב-25 ביולי הזהירו סנאטורים אמריקאים מפני הסיכון לשימוש בבינה מלאכותית למתקפות ביולוגיות, בדיון בפני ועדת משנה של ועדת המשפט של הסנאט האמריקאי. לאחרונה, שבע חברות טכנולוגיה גדולות, ביניהן OpenAI, Alphabet ו-Meta, התחייבו מרצונן לבית הלבן לפתח מערכת לזיהוי כל התוכן, החל מטקסט, תמונות, אודיו ועד וידאו , שנוצר על ידי בינה מלאכותית, על מנת להבטיח שקיפות עבור המשתמשים, במטרה להבטיח שהטכנולוגיה הזו תהיה בטוחה יותר.

דריו אמודי, מנכ"ל AI Anthropic, ציין כי בעוד שבינה מלאכותית עדיין אינה מסוגלת ליצור נשק ביולוגי, מדובר בסיכון "לטווח בינוני" ומהווה איום חמור על הביטחון הלאומי של ארה"ב בשנתיים-שלוש הקרובות. הסיבה לכך היא שהנושאים המבצעים תקיפות בקנה מידה גדול של נשק ביולוגי אינם מוגבלים עוד לאלו בעלי ידע מיוחד בנושא זה.

העולם עומד בפני פיצוץ של תוכן שנוצר על ידי טכנולוגיית בינה מלאכותית גנרטיבית. מארה"ב, אירופה ועד אסיה, הפיקוח מתהדק בהדרגה. על פי CNN, החל מספטמבר, הסנאט האמריקאי יקיים סדרה של תשע סדנאות נוספות לחברים כדי ללמוד כיצד בינה מלאכותית יכולה להשפיע על מקומות עבודה, ביטחון לאומי וקניין רוחני. לפני ארה"ב, אם יושג הסכם, האיחוד האירופי יקבל את החוק הראשון בעולם בנושא ניהול בינה מלאכותית בשנה הבאה, שצפוי להיכנס לתוקף החל משנת 2026.

היתרונות שמביאה בינה מלאכותית לחברה אינם ניתנים להכחשה, אך ישנן אזהרות גוברות לגבי הסיכונים הפוטנציאליים של טכנולוגיה חדשה זו. ביוני, מזכ"ל האו"ם אנטוניו גוטרש תמך בהצעה של מספר מנהלים בתחום הבינה המלאכותית להקים גוף פיקוח בינלאומי לבינה מלאכותית, בדומה לסוכנות הבינלאומית לאנרגיה אטומית (סבא"א).

בחזרה לפורום Frontier Model, נשיא מיקרוסופט, בראד סמית', אמר כי היוזמה היא צעד חשוב באיחוד חברות טכנולוגיה כדי לקדם שימוש אחראי בבינה מלאכותית לטובת כל האנושות. באופן דומה, סגנית נשיא לעניינים גלובליים של OpenAI, אנה מקנג'ו, אמרה כי לטכנולוגיית בינה מלאכותית מתקדמת יש פוטנציאל להביא יתרונות עמוקים לחברה, וזה דורש פיקוח וממשל.

מָקוֹר: https://www.sggp.org.vn/tim-tieu-chuan-an-toan-cho-tri-tue-nhan-tao-post699667.html