אל תתנו לבינה מלאכותית לאיים על הישרדות האנושות

"סנדקי הבינה המלאכותית", זוכי פרס VinFuture 2024, מאמינים כי מדענים צריכים להבטיח שתרחישי בינה מלאכותית לא יאיימו על הישרדות האנושות.

היום, 7 בדצמבר, זוכי פרס VinFuture 2024 שוחחו עם סטודנטים ומדענים צעירים באוניברסיטת VinUni על מחקר מדעי וכן על סיכויי העתיד של התחומים בהם הם עוסקים. כאן, זוכי הפרס הראשי, מדענים מצטיינים שעבודתם פורצת הדרך הניחה את היסודות למהפכת הבינה המלאכותית של ימינו, דיברו על ההתקדמות המדהימה של הבינה המלאכותית.

פרופסור יאן לקון (במרכז) ופרופסור יהושע בנג'יו (משמאל לשער) במושב חילופי הסטודנטים

"זה כאילו קפצנו 10 שנים לעתיד."

פרופסור ג'פרי הינטון מאוניברסיטת טורונטו, קנדה, שלא הגיע לווייטנאם כדי לקבל את הפרס, השתתף בחילופי הווידאו . הוא, פרופסור יאן לקון ופרופסור יושע בנג'יו, קיבלו את פרס טיורינג (פרס הנחשב לפרס נובל בתחום מדעי המחשב) בשנת 2018, וכולם כונו "סנדקי הבינה המלאכותית" על ידי התקשורת הבינלאומית. כעת, שלושתם ממשיכים לזכות בפרס הראשי מטעם VinFuture 2024 יחד עם שני מדענים נוספים, פרופסור פיי פיי לי (ארה"ב) ומר ג'נסן הואנג (מנכ"ל NVIDIA).

לדברי פרופסור הינטון, הפריחה האחרונה בבינה מלאכותית היא תוצאה של שלושה גורמים. ראשית, המחקר לפיתוח שיטות יעילות יותר ללמידה של רשתות עצביות, אותו ביצעו הוא, פרופסור יהושע, פרופסור יאן ורבים אחרים. בנוסף, יש את כוח המחשוב המהיר ביותר של יחידות עיבוד גרפיות (GPU) ואת כמות הנתונים העצומה שאנו יכולים לאסוף.

פרופסור ג'פרי הינטון משתף באמצעות וידאו

"היבט נהדר של הפרס הזה (VinFuture 2024) הוא ההכרה בעבודתו של מר ג'נסן הואנג בחלוצות ביצירת לוחות GPU שימושיים לבינה מלאכותית. השילוב של לוח ה-GPU של ג'נסן הואנג ומערכי הנתונים של פרופסור פיי פיי לי מילאו תפקיד חשוב בפיתוח המודרני של הבינה המלאכותית. זה נהדר שעבודתם זוכה להכרה לצד אלו שעובדים על אלגוריתמים של רשתות עצביות", אמר פרופסור הינטון.

"גילינו שכאשר השתמשנו במעבדים גרפיים (GPU) לאימון רשתות נוירונים, הם היו מהירים פי 30. זו הייתה קפיצת מדרגה. זה היה כאילו מהירות המחשוב הקדימה את זמנה ב-10 שנים. פתאום היינו 10 שנים לפני העתיד במהירות המחשוב. זה שינה לחלוטין את כללי המשחק עבור הבינה המלאכותית, זה היה מדהים!", שיתף פרופסור הינטון.

מדענים עדיין עובדים על מנת להבין טוב יותר את הקשרים ברשתות עצביות. זה יעזור למדענים ליצור בינה מלאכותית הדומה יותר לבינה אנושית, ואף תוכל להסביר אינטואיציה. גישות לוגיות מסורתיות לעולם לא יוכלו לעשות זאת.

אני מתחיל לפחד מבינה מלאכותית

פרופסור הינטון אמר שלרשתות הנוירונים הגדולות של ימינו יש אינטואיציה דומה לזו של בני אדם. מאז השנה שעברה, הוא החל לדאוג שייקח רק 5 עד 20 שנים עד שהבינה המלאכותית תהיה חכמה כמו בני האדם. "אז התחלתי לדאוג לגבי בינה מלאכותית. עצירת הפיתוח אינה אופציה. ולכן האפשרות היחידה היא לנסות להבין כיצד להבטיח בטיחות כשהיא תהפוך לחכמה מאיתנו", שיתף פרופסור הינטון.

"אבל אני לא חושב שסוף העולם הוא בלתי נמנע", אומר פרופסור הינטון. "עם זאת, אי אפשר להתעלם מהאפשרויות, ואנחנו צריכים לעבוד קשה כדי למנוע אותן. יש לקוות שהסטודנטים המוכשרים ביותר יבחרו ללמוד בטיחות בינה מלאכותית, תוך התייחסות למגוון רחב של איומים, מאיומים ארוכי טווח כמו השתלטויות בינה מלאכותית ועד לאיומים קצרי טווח כמו פשעי סייבר."

פרופסור יושע בנג'יו ופרופסור יאן לקון

פרופסור יאן לקון אמר שהוא מודאג גם מהסיכון שבינה מלאכותית תשלוט בבני אדם כשהיא תהיה חכמה כמו בני אדם. עם זאת, התשובה הנוכחית עדיין לא קיימת. "אנחנו יכולים להפסיד כשאנחנו משחקים שחמט עם צעצוע קטן בשווי 30 יורו. האם זה מסוכן? התשובה היא לא. בינה מלאכותית הופכת למסוכנת רק כשאנחנו יוצרים מוטיבציה (לשלוט בבני אדם) עבור בינה מלאכותית. אבל כרגע, לבינה מלאכותית יש רק ידע, לא מוטיבציה", אמר פרופסור יאן.

לדברי פרופסור יאן, יצירת בינה מלאכותית שתשרת באופן פעיל את בני האדם היא רק בעיה טכנית. מכיוון שבינה מלאכותית היא חכמה, המחשבה שבינה מלאכותית תשלוט בבני אדם היא דעה קדומה, משום שהמציאות מראה שבחברה היו אנשים חכמים רבים אך הם לא שלטו בעולם ! בינה מלאכותית היא עדיין כלי, הבעיה היא עם בני אדם, לא עם בינה מלאכותית.

לדברי פרופסור יהושע בנג'יו, איננו יכולים להיות סובייקטיביים, רק בעיה קטנה יכולה להשפיע על הישרדות האנושות. בני אדם יכולים להכניס מוטיבציה למכונות. לדוגמה, מישהו רוצה להפוך את המכונה לאדם, מה שגורם למכונה להיראות כאילו יש לה צורך "לשרוד", אנחנו רוצים לכבות את המכונה אבל היא מסרבת לכבות. "כמובן שעלינו לוודא שתרחיש זה לא יקרה", אמר פרופסור בנג'יו.

מקור: https://thanhnien.vn/vinfuture-award-2024-recipient-of-award-cannot-do-anyone-does-the-extinction-of-humanity-185241207195331155.htm