סין והמערב מזהים "קווים אדומים" בנוגע לסיכוני בינה מלאכותית

[מודעה_1]

קבוצה של מומחים בינלאומיים בולטים נפגשה בבייג'ינג בשבוע שעבר, שם זיהו "קווים אדומים" בפיתוח בינה מלאכותית, כולל יצירת כלי נשק ביולוגיים וביצוע מתקפות סייבר.

בהצהרה שפורסמה ימים לאחר הפגישה, הזהירו האקדמאים כי נדרשת גישה משותפת לבטיחות בינה מלאכותית כדי למנוע "סיכונים קטסטרופליים או אפילו קיומיים לאנושות בימי חיינו".

"בשיאה של המלחמה הקרה, שיתוף פעולה בינלאומי בין ממשלות ומדעי סייעו במניעת אסון גרעיני. האנושות חייבת שוב לעבוד יחד כדי למנוע את האסון שעלול לנבוע מטכנולוגיה חסרת תקדים", נכתב בהצהרה.

מדענים סינים ומערביים קובעים את גבול הסיכון של בינה מלאכותית תמונה 1 — מומחים בדיאלוג הבינלאומי בנושא בטיחות בינה מלאכותית בבייג'ינג זיהו "קווים אדומים" בפיתוח בינה מלאכותית. צילום: FT

בין החותמים נמנים ג'פרי הינטון ויושוע בנג'יו, המתוארים לעתים קרובות כ"אבות" הבינה המלאכותית; סטיוארט ראסל, פרופסור למדעי המחשב באוניברסיטת קליפורניה; ואנדרו יאו, אחד ממדעני המחשב הבולטים ביותר בסין.

ההצהרה מגיעה לאחר דיאלוג הבטיחות הבינלאומי של בינה מלאכותית שנערך בבייג'ינג בשבוע שעבר, פגישה בה השתתפו פקידי ממשל סיניים כדי להביע את הסכמתם לפורום ולתוצאותיו.

נשיא ארה"ב ג'ו ביידן ונשיא סין שי ג'ינפינג נפגשו בנובמבר בשנה שעברה ודנו בבטיחות בינה מלאכותית, והסכימו לנהל דיאלוג בנושא. חברות בינה מלאכותית מובילות בעולם נפגשו גם באופן פרטי עם מומחי בינה מלאכותית סינים בחודשים האחרונים.

בנובמבר 2023, 28 מדינות, כולל סין, וחברות בינה מלאכותית מובילות הסכימו על התחייבות רחבה לעבוד יחד כדי להתמודד עם סיכונים קיומיים הנובעים מבינה מלאכותית מתקדמת, במהלך פסגת בטיחות הבינה המלאכותית של שר האוצר הבריטי רישי סונאק.

בבייג'ינג בשבוע שעבר, מומחים דנו באיומים הקשורים לפיתוח "בינה כללית מלאכותית - AGI", או מערכות בינה מלאכותית השוות או עדיפות על בני אדם.

"המוקד המרכזי של הדיון היה הקווים האדומים שאף מערכת בינה מלאכותית חזקה לא צריכה לחצות, ושממשלות ברחבי העולם צריכות להטיל בפיתוח ובפריסה של בינה מלאכותית", אמר בנג'יו.

קווים אדומים אלה יבטיחו ש"אף מערכת בינה מלאכותית לא תוכל לשכפל או לשפר את עצמה ללא הסכמה ותמיכה אנושית מפורשות" או "לנקוט פעולות המגדילות באופן בלתי הולם את כוחה והשפעתה".

המדענים הוסיפו כי אף מערכת לא "תשפר באופן משמעותי את יכולתם של גורמים לתכנן נשק להשמדה המונית, להפר את אמנת הנשק הביולוגי או הכימי" או שתוכל "לבצע באופן אוטומטי מתקפות סייבר הגורמות להפסד כספי חמור או נזק שווה ערך".

הואנג האי (לפי ה-FT)

[מודעה_2]
מָקוֹר