בינה מלאכותית עשויה להיות חכמה יותר מבני אדם בעוד כ-20 שנה

במסגרת שבוע המדע והטכנולוגיה VinFuture 2025, פאנל הדיון " בינה מלאכותית לאנושות: אתיקה ובטיחות של בינה מלאכותית בעידן החדש " דן באחד הנושאים הדחופים ביותר כיום: פיתוח אחראי של בינה מלאכותית, למען ערכים הומניסטיים ולמען טובת הכלל של האנושות.

מדענים דנים בסמינר.

מדענים דנים בסמינר.

בהודעה ששלחה לפאנל הדיון, אמר פרופסור ג'פרי הינטון - חתן פרס נובל לפיזיקה לשנת 2024 וזכה לכינוי "אבי הבינה המלאכותית", כי הבינה המלאכותית מתפתחת במהירות רבה, ומביאה עמה גם יתרונות גדולים וגם סיכונים פוטנציאליים.

בצד החיובי, אמר מר הינטון, בינה מלאכותית יוצרת שיפור עצום בתחום הבריאות, החינוך, פיתוח תרופות חדשות, חומרים חדשים או כל תחום הדורש חיזוי, ויוצרת קפיצת מדרגה בפריון.

" זה מועיל אם זה מחולק בצורה הוגנת בחברה ", הדגיש הפרופסור.

להיפך, בינה מלאכותית משתפרת בהדרגה בתכנון וירוסים מסוכנים או מתקפות סייבר; יצירת סרטונים מזויפים; מה שמוביל לאבטלה המונית...

" מומחי בינה מלאכותית מאמינים שנפתח מערכות חכמות יותר מבני אדם. ישנן דעות רבות ושונות לגבי מתי זה יקרה, אך רובן צופות זאת בתוך 20 השנים הבאות. ואנחנו צריכים לחשוב בדחיפות כיצד לחיות עם ישויות חכמות מאיתנו. זהו מצב שהאנושות מעולם לא התמודדה איתו קודם לכן, זה חדש ואנחנו צריכים לעשות הרבה מחקר לפני שזה יקרה ", אמר פרופסור הינטון.

לדברי פרופסור ג'פרי הינטון, למדענים ומהנדסים יש אחריות למצוא דרכים חזקות יותר לשמור על בינה מלאכותית בקנה אחד עם ערכים אנושיים, ועליהם לעזור לציבור ולפוליטיקאים להבין טוב יותר את טבעה של הבינה המלאכותית כדי לקבל את ההחלטות הנכונות.

פרופסור יהושע בנג'יו שיתף בסמינר.

פרופסור יהושע בנג'יו שיתף בסמינר.

בינתיים, פרופסור יהושע בנגו - המכונה "אבי הלמידה העמוקה" וזוכה פרס טיורינג לשנת 2018, אמר כי לבינה מלאכותית יש פוטנציאל להביא יתרונות עצומים שיסייעו בפתרון אתגרים דחופים רבים של התקופה, אך זה קורה רק כאשר אנו מכוונים אותה בחוכמה.

הוא מצטט סימולציות אחרונות שמראות שמערכות בינה מלאכותית יכולות להתנהג בצורה מסוכנת, כמו סחיטה, הטעיה או מתן עדיפות להישרדותן על פני בטיחות האדם. בנוסף, חלק מהתכונות של מודלים פופולריים של בינה מלאכותית כיום עלולות לגרום למשתמשים ליצור קשרים רגשיים חזקים בדרכים לא בריאות.

" ברמות קיצוניות, התקשרות זו עלולה להיות מסוכנת לבריאות הנפש, במיוחד עבור אנשים פגיעים הנמצאים בסיכון לפגיעה עצמית, אפילו להתאבדות או לפסיכוזה הנגרמת על ידי בינה מלאכותית ", אמר פרופסור בנגו.

מתוך מציאות זו, לדברי מר בנגו, עלינו להגביר את הבטיחות עבור בינה מלאכותית מתקדמת במקום להתמקד רק בפיתוחה כדי לחזקה.

" בטיחות ואמון אינם גורמים משניים אלא חיוניים בתהליך הפיתוח, לטובת האנושות. עלינו לפעול יחד הן ברמה המדיניות והן ברמה המדעית ", הדגיש פרופסור יהושע בנגו.

לדברי פרופסור יהושע בנגו, מבחינה מדיניות, העולם זקוק לשיתוף פעולה בינלאומי. מבחינה מדעית, יש צורך להבין טוב יותר כיצד לתכנן בינה מלאכותית שהיא גם עדיפה ביכולותיה וגם לא מזיקה לבני אדם.

בפרט, ציין המומחה, שמירה על היכולת לשלוט בבינה מלאכותית כדי להתנהג בבטחה גם כאשר בני אדם מבקשים מהם לעשות דבר רע; בניית מחסומים טכניים וחברתיים כדי להבטיח שהבינה המלאכותית עולה בקנה אחד עם הנורמות, הכוונות, הערכים והאינטרסים האנושיים.

מנקודת מבט אחרת, ד"ר וינטון גריי סרף - אחד מ"אבות האינטרנט", משתף לקחים מיותר מ-50 שנות פיתוח אינטרנט כדי לשפוך אור על עידן הבינה המלאכותית.

הוא תיאר ארבעה לקחים עיקריים מהאינטרנט: קישוריות היא הכל; תקשורת מקצה לקצה חייבת להיות מאובטחת; המערכת חייבת להיות גלובלית, והארכיטקטורה חייבת להיות פתוחה מספיק כדי לאפשר חדשנות מתמשכת.

" אבל האינטרנט גם מראה שאנונימיות מוחלטת מקשה על מתן דין וחשבון. בעידן הבינה המלאכותית, דין וחשבון זה הופך להיות דחוף עוד יותר, שכן הטכנולוגיה יכולה ליצור תוכן מזויף, לתמרן מידע ולשבש את החברה ", אמר ד"ר וינטון גריי סרף, וטען כי טיפוח אמון דיגיטלי - המבוסס על שקיפות, זהות ושיתוף פעולה בינלאומי - הוא בסיס הכרחי לממשל בינה מלאכותית.

אַנגְלִית

מקור: https://vtcnews.vn/ai-co-the-thong-minh-hon-con-nguoi-trong-khoang-20-nam-toi-ar988937.html