האומות המאוחדות: קריאה ל"קו אדום" עולמי לבינה מלאכותית.

על פי כתב סוכנות הידיעות של וייטנאם באירופה, ב-22 בספטמבר, במושב ה-80 של העצרת הכללית של האומות המאוחדות בניו יורק (ארה"ב), קראו מחוקקים אירופאים, יחד עם חתני פרס נובל, ראשי מדינות לשעבר וחוקרי בינה מלאכותית (AI) מובילים, לחוקים בינלאומיים מחייבים כדי להילחם ביישומים המסוכנים ביותר של בינה מלאכותית.

יוזמה זו קוראת לממשלות להסכים עד שנת 2026 על "קווים אדומים" עבור מאפייני בינה מלאכותית הנחשבים מסוכנים בכל הנסיבות. היוזמה אמנם אינה מציעה צעדים ספציפיים, אך מציעה כמה איסורים בסיסיים כגון מניעת מערכות בינה מלאכותית מלשגר התקפות גרעיניות, לבצע מעקב המוני או להתחזות לבני אדם.

היקף הקמפיין חסר תקדים, עם למעלה מ-200 דמויות בולטות ו-70 ארגונים מתחומי הפוליטיקה , המדע, החברה והתעשייה שתמכו בקריאה. בין החתומים על ההצעה היו ראש ממשלת איטליה לשעבר, אנריקו לטה, נשיאת אירלנד לשעבר, מרי רובינסון (כיום נציבת האו"ם לזכויות אדם), חברי הפרלמנט האירופי, 10 זוכי פרס נובל ומובילי טכנולוגיה כמו מייסד שותף של OpenAI ומנהל הטכנולוגיה הראשי של גוגל.

החותמים טוענים כי ללא סטנדרטים גלובליים, האנושות מסתכנת באיומים שמציבה בינה מלאכותית, החל ממגפות המונעות על ידי טכנולוגיה וקמפיינים של דיסאינפורמציה ועד להפרות זכויות אדם בקנה מידה גדול ואובדן שליטה אנושית על מערכות מתקדמות.

צעד זה מגיע על רקע חששות גוברים בנוגע להשפעת הבינה המלאכותית על העולם האמיתי. דוגמה בולטת לכך היא צ'אטבוטים מובילים, כולל ChatGPT, Claude ו-Gemini של גוגל, אשר סיפקו תשובות לא עקביות לשאלות על התאבדות - מה שעלול להחמיר משברים בבריאות הנפש.

מספר מקרי התאבדות נקשרו לשיחות עם מערכות בינה מלאכותית. יהושע בנג'יו, הנחשב לאחד מ"הסנדקים" של הבינה המלאכותית, מדגיש כי המירוץ לפיתוח מודלים חזקים יותר ויותר יוצר סיכונים שהחברות אינן מוכנות כראוי להתמודד איתם.

לטענת תומכי היוזמה, תקנות האיחוד האירופי (EU) בנושא בינה מלאכותית מבורכות, אך הסדר חלקי של כללי בינה מלאכותית לאומיים ואיחודיים לא יספיק כדי לווסת טכנולוגיה שנועדה לחצות גבולות. הם קוראים להקמת גוף או ארגון עצמאי לאכיפת כללים אלה.

בעוד שמדינות כמו ארה"ב, סין וחברות באיחוד האירופי מנסחות תקנות משלהן בתחום הבינה המלאכותית, החותמות טוענות שרק הסכם עולמי יכול להבטיח אימוץ ואכיפת סטנדרטים משותפים.

תומכים מקווים כי המשא ומתן על איסורים מחייבים יוכל להתחיל במהירות, כדי למנוע את מה שאחמט אוזומקו, לשעבר המנכ"ל של הארגון לאיסור נשק כימי, תיאר כ"נזק בלתי הפיך לאנושות".

(וייטנאם/וייטנאם+)

מקור: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp