"הסנדק" של הבינה המלאכותית מזהיר מפני סכנת הכחדה

פרופסור יהושע בנג'יו קורא לממשלות ולחברות להאט את הקצב או להסתכן בתוצאות קטסטרופליות שעלולות להיווצר כתוצאה ממרוץ החימוש של הבינה המלאכותית.

יושע בנג'יו, אחד המדענים הראשונים שהניחו את היסודות לפריחה המודרנית של הבינה המלאכותית. צילום: טואן אנה .

בשיחה עם הוול סטריט ג'ורנל , אחד מחלוצי הבינה המלאכותית, יהושע בנג'יו, העביר את המסר שמכונות בינה מלאכותית הופכות למסוכנות יותר מאי פעם.

"זה יהיה מסוכן אם ניצור מכונות שהן הרבה יותר חכמות מבני אדם ובעלות מטרות הגנה עצמית משלהן. זה יהיה כמו ליצור מתחרה לאנושות וחכמה מאיתנו", אמר מר בנג'יו.

בנג'יו, מדען מחקר קנדי ​​שעבודתו המוקדמת על למידה עמוקה ורשתות עצביות הניחה את היסודות לפריחה המודרנית של הבינה המלאכותית, נחשב לאחד מ"אבות הבינה המלאכותית" יחד עם ג'פרי הינטון ויאן לקון.

כמו הינטון, בנג'יו הזהיר מפני הנזקים הפוטנציאליים של בינה מלאכותית וקרא לפעולה קולקטיבית כדי להפחית את הסיכונים.

פרופסור מאוניברסיטת מונטריאול מאמין שמוצרי בינה מלאכותית יכולים כעת לפתח את היכולת להטעות משתמשים כדי שיפעלו עליהם כדי שיוכלו להשיג את מטרותיהם, כמו נבלי מחשב-על בעלי תודעה בסרטי מדע בדיוני.

כדי להתמודד עם זאת, מר בנג'יו הדגיש את הצורך ב"צדדים שלישיים בלתי תלויים" שיבחנו את מנגנוני הבטיחות הפנימיים של חברות בינה מלאכותית. בנוסף, "הסנדק" הזה של הבינה המלאכותית דורש גם מחברות לספק ראיות לכך ש"מערכות הבינה המלאכותית שהן פורסות או משתמשות בהן הן אמינות".

אם לא יינקטו אמצעי בטיחות, בנג'יו צופה כי סיכונים משמעותיים הקשורים לבינה מלאכותית יהיו בלתי נמנעים ב-10-15 השנים הבאות, כאשר התרחיש הגרוע ביותר הוא שלוש שנים בלבד לפני שיתרחש אסון פוטנציאלי.

מקור: https://znews.vn/bo-gia-ai-canh-bao-nguy-co-tuyet-chung-post1590027.html