ארה"ב ומדינות נוספות חושפות "הסכם בינלאומי ראשון בנושא ניהול בינה מלאכותית"

במסמך בן 20 עמודים שפורסם ב-26 בנובמבר, 18 מדינות הסכימו כי חברות מחקר ויישומי בינה מלאכותית צריכות לפתח ולפרוס את הטכנולוגיה באופן שימנע ניצול לרעה של לקוחות והציבור הרחב, על פי רויטרס.

ההסכם אינו מחייב וכולל בעיקר המלצות כלליות, כגון ניטור מערכות בינה מלאכותית כדי לזהות ולמנוע ניצול לרעה, הגנה על נתונים ובחינה של ספקי תוכנה.

פיתוח הבינה המלאכותית מוביל למרוץ בתחום הטכנולוגיה כמו גם לחששות רבים.

עם זאת, ג'ן איסטרלי, מנהלת הסוכנות האמריקאית לאבטחת סייבר ותשתיות, אמרה שחשוב שמדינות רבות כל כך שותפות לדעה שמערכות בינה מלאכותית צריכות להעמיד את הבטיחות במקום הראשון.

"זו הפעם הראשונה שאנחנו רואים מדינות מסכימות שהיכולות הללו אינן נוגעות רק לאטרקטיביות של התכונות, כמה מהר נוכל להביא אותן לשוק, או איך נוכל להתחרות כדי להפחית עלויות", אמר איסטרלי לרויטרס. הגורם אמר שההנחיות מייצגות "הסכמה שהדבר החשוב ביותר להבטיח בשלב התכנון הוא אבטחה".

ההסכם הוא האחרון בסדרת יוזמות של ממשלות ברחבי העולם שמטרתן לעצב את התפתחות הבינה המלאכותית, שהשפעתה מורגשת יותר ויותר בתעשיות ובחברה בכללותה.

המסמך עוסק בשאלות בנוגע לאופן שבו ניתן להגן על מערכות בינה מלאכותית מפני התקפות האקרים וכולל המלצות כגון שחרור מודלים חדשים רק לאחר בדיקות אבטחה יסודיות. ההנחיות החדשות אינן עוסקות בשאלות קוצניות סביב השימוש המתאים בבינה מלאכותית או כיצד לאסוף את הנתונים המזינים מודלים אלה.

עלייתה של הבינה המלאכותית עוררה חששות רבים, כולל חששות כי בינה מלאכותית עלולה לשמש לשיבוש התהליך הדמוקרטי, לקידום הונאה או להוביל לאבטלה מסיבית, בין היתר.

אירופה מקדימה את ארה"ב בחקיקת תקנות הקשורות לבינה מלאכותית. צרפת, גרמניה ואיטליה הגיעו לאחרונה גם להסכם על אופן הרגולציה של התחום, בנוגע למודלים העומדים בבסיס הבינה המלאכותית.

ממשל ביידן לחץ על המחוקקים בנוגע לרגולציה של בינה מלאכותית, אך הקונגרס המקוטב עמוקות עשה התקדמות מועטה בהעברת תקנות אפקטיביות.

הבית הלבן ביקש לצמצם את הסיכונים הנובעים מבינה מלאכותית עבור צרכנים, עובדים ומיעוטים, תוך חיזוק הביטחון הלאומי, באמצעות צו נשיאותי חדש באוקטובר.

קישור למקור: https://thanhnien.vn/my-va-cac-quoc-gia-he-lo-thoa-thuan-quoc-te-dau-tien-ve-quan-ly-ai-185231127105751353.htm