האו"ם: קריאה להצבת "קווים אדומים" עולמיים בנושא בינה מלאכותית

על פי כתב של VNA באירופה, ב-22 בספטמבר, במושב ה-80 של העצרת הכללית של האומות המאוחדות בניו יורק (ארה"ב), מחוקקים אירופאים, יחד עם חתני פרס נובל, ראשי מדינות לשעבר וחוקרים מובילים בתחום הבינה המלאכותית (AI), קראו לחוקים בינלאומיים מחייבים כדי להילחם ביישומים המסוכנים ביותר של בינה מלאכותית.

היוזמה קוראת לממשלות להסכים עד 2026 על "קווים אדומים" עבור מאפייני בינה מלאכותית הנחשבים מסוכנים בכל הנסיבות. היא אינה מציעה צעדים ספציפיים, אך היא מציעה כמה איסורים בסיסיים, כגון מניעת מערכות בינה מלאכותית מלשגר התקפות גרעיניות, לבצע מעקב המוני או להתחזות לבני אדם.

היקף הקמפיין הוא חסר תקדים, עם יותר מ-200 דמויות בולטות ו-70 ארגונים מתחומי הפוליטיקה , המדע, החברה והתעשייה שתומכים בקריאה. בין החותמים על ההצעה נמצאים ראש ממשלת איטליה לשעבר, אנריקו לטה, נשיאת אירלנד לשעבר, מרי רובינסון (כיום נציבת האו"ם לזכויות אדם), חברי הפרלמנט האירופי, 10 זוכי פרס נובל ומובילי טכנולוגיה כמו מייסד שותף של OpenAI ומנהל הטכנולוגיה הראשי של גוגל.

החותמים טוענים כי ללא סטנדרטים גלובליים, האנושות מסתכנת באיומים שמציבה בינה מלאכותית, החל ממגפות מהונדסות טכנולוגית וקמפיינים של דיסאינפורמציה ועד להפרות זכויות אדם בקנה מידה גדול ואובדן שליטה של בני אדם על מערכות מתקדמות.

המהלך מגיע על רקע חששות גוברים בנוגע להשפעת הבינה המלאכותית על העולם האמיתי. בדוגמה בולטת אחת, צ'אטבוטים מובילים, כולל ChatGPT של גוגל, קלוד וג'מיני, נתנו תשובות לא עקביות לשאלות על התאבדות - שלדעת הציבור מחמירות משברים בבריאות הנפש.

מספר מקרי התאבדות נקשרו לשיחות עם מערכות בינה מלאכותית. יהושע בנג'יו, אחד מ"הסנדקים" של הבינה המלאכותית, הדגיש כי המירוץ לפיתוח מודלים חזקים יותר ויותר יוצר סיכונים שהחברות אינן מוכנות להתמודד איתם.

תקנות האיחוד האירופי (EU) בנושא בינה מלאכותית מבורכות, אך טלאים של כללים לאומיים וכללים של האיחוד האירופי בנושא בינה מלאכותית לא יספיקו כדי לווסת טכנולוגיה שנועדה לחצות גבולות, לדברי תומכי היוזמה. הם קוראים להקמת גוף או ארגון עצמאי לאכיפת כללים אלה.

בעוד שמדינות כמו ארה"ב, סין וחברות באיחוד האירופי מנסחות תקנות משלהן בתחום הבינה המלאכותית, החותמות אומרות שרק הסכם עולמי יכול להבטיח אימוץ ואכיפת סטנדרטים משותפים.

תומכים מקווים כי המשא ומתן על איסורים מחייבים יוכל להתחיל במהירות, כדי למנוע את מה שאחמט אוזומקו, המנכ"ל לשעבר של ארגון איסור נשק כימי, תיאר כ"נזק בלתי הפיך לאנושות".

(TTXVN/וייטנאם+)

מקור: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp