בינה מלאכותית: עלינו להגביר את הבטיחות במקום להתמקד רק בפיתוח בינה מלאכותית חזקה יותר

במקום להתמקד רק בפיתוח בינה מלאכותית כדי להתחזק, מומחים בעלי השפעה עולמית בתחום מזהירים כי בני אדם צריכים לחשוב בדחיפות כיצד לחיות עם בינה מלאכותית - ישות חכמה מהם, המונעת ממנה להשתלט על בני האדם.

פאנל הדיון "בינה מלאכותית לאנושות: אתיקה ובטיחות של בינה מלאכותית בעידן החדש", במסגרת שבוע המדע והטכנולוגיה VinFuture 2025, מפגיש מדענים , פוליטיקאים וממציאים כדי לדון בפיתוח אחראי של בינה מלאכותית, לעבר ערכים הומניסטיים.

תחשבו בדחיפות איך לחיות עם בינה מלאכותית - ישות חכמה יותר מכם

פרופסור טובי וולש, מאוניברסיטת ניו סאות' ויילס, אוסטרליה, איש אקדמיה של איגוד המחשבים האמריקאי, ששיתף בסמינר ואמר: "אני מאמין בתוקף ששימוש אחראי בבינה מלאכותית צריך להיות חובה. ישנם תמריצים מעוותים רבים כיום, עם סכומי עתק שמתקבלים בזכות בינה מלאכותית, והדרך היחידה להבטיח התנהגות נאותה היא להחיל תקנות מחמירות, כך שהאינטרסים הציבוריים תמיד מאוזנים עם אינטרסים מסחריים."

הוא ציטט דוגמה אופיינית להחלטות חשובות, כמו פסיקת בית משפט וגזרי דין בארצות הברית, שם נעשה שימוש במערכת בינה מלאכותית כדי להמליץ ​​על עונש המאסר של אדם והסבירות לעבירות חוזרות. לרוע המזל, מערכת זו הוכשרה על סמך נתונים היסטוריים, ושיקפה שלא במתכוון הטיות גזעיות מהעבר, מה שהוביל לאפליה נגד אנשים שחורים.

פרופסור טובי וולש, אוניברסיטת ניו סאות' ויילס, אוסטרליה, חבר באגודה האמריקאית למחשבים.

לכן, חברות הפורסות ומפעילות מערכות בינה מלאכותית חייבות לשאת באחריות לתוצאות שגורמות "מכונות" אלה.

פרופסור ג'פרי הינטון - זוכה הפרס הראשי של VF לשנת 2024, מודאג מכך שהבינה המלאכותית הופכת בהדרגה למשתפרת בתכנון וירוסים מסוכנים, מתקפות סייבר ויצירת סרטונים מזויפים לשיבוש בחירות. ב-20 השנים הקרובות, הבינה המלאכותית תהפוך לחכמה מאיתנו ולא נדע כיצד למנוע ממנה להשתלט על בני האדם.

לכן, הדגיש פרופסור זה: "עלינו לחשוב בדחיפות כיצד לחיות עם ישויות חכמות מאיתנו. זהו מצב שהאנושות מעולם לא התמודדה איתו לפני כן, הוא חדש ועלינו להשקיע מאמצי מחקר רבים לפני שזה יקרה."

יש צורך לשפר את שיתוף הפעולה הבינלאומי כדי להגביל את סיכוני הבינה המלאכותית

פרופסור יהושע בנג'יו - זוכה הפרס הראשי של VinFuture 2024, שותף לדאגה זו, אמר כי מודלים של בינה מלאכותית, יכולותיהם ורמות האוטונומיה שלהם עדיין מתפתחים בקצב מהיר ויציב. אם מגמה זו תימשך, מערכות בינה מלאכותית אוטונומיות יוכלו להתעלות על בני אדם ברוב המשימות הקוגניטיביות, תוך 5-10 שנים בלבד.

זוהי נקודת מפנה היסטורית שיכולה לשפר באופן דרמטי את איכות חיינו. אך אם לא יטופל בזהירות, היא עלולה גם להוות סיכונים עצומים לדמוקרטיה, ליציבות הגיאופוליטית ואפילו לעתיד האנושות.

"עלינו לשפר את הבטיחות עבור בינה מלאכותית מתקדמת במקום להתמקד רק בחיזוקה. בטיחות ואמון אינם גורמים משניים אלא חיוניים בתהליך הפיתוח לטובת האנושות. עלינו לפעול יחד הן ברמה המדיניות והן ברמה המדעית", אמר.

פרופסור יהושע בנג'יו - זוכה הפרס הראשי של VinFuture 2024.

מדען זה ממליץ כי, מבחינת מדיניות, העולם זקוק לשיתוף פעולה בינלאומי. מבחינה מדעית, יש צורך להבין טוב יותר כיצד לתכנן בינה מלאכותית שהיא גם עדיפה ביכולתה וגם אינה מזיקה לבני אדם, לשמור על היכולת לשלוט בבינה מלאכותית כך שתתנהג בבטחה גם כאשר בני אדם מבקשים ממנה לעשות דבר רע, ולבנות מחסומים טכניים וחברתיים כדי להבטיח שהבינה המלאכותית תהיה עקבית עם הנורמות, הכוונות, הערכים והאינטרסים האנושיים.

ד"ר וינטון גריי סרט (סגן נשיא ומנהל תחום הבשורה באינטרנט בגוגל - זוכה פרס VF לשנת 2022) מסכים: עלינו להטיל אחריות על הבינה המלאכותית, ליצור שרשרת משמורת כדי לדעת מה היא עושה, מתי, במיוחד מתי משהו משתבש. רבים מהעקרונות החלים על בני אדם יחולו גם על סוכני בינה מלאכותית בסביבה המקוונת.

"עלינו לקבוע בו זמנית נורמות חדשות, שבהן השימוש בזיהוי חזק, קריפטוגרפיה לאבטחת מידע, יישום מנגנונים להבטחת אחריות והגנה על זהויות מפני חטיפתן על ידי אחרים - הופך להרגל קבוע. עלינו להשתמש בטכנולוגיה כדי להגביל סיכונים מההתחלה ולהבהיר שכל מי שימצא כפוגע בקהילה ובחברה חייב להתמודד עם תוצאות התנהגות זו. זה דורש שיתוף פעולה בינלאומי", אמר.

וייטנאם צריכה למצוא דרך משלה בבניית נתוני בינה מלאכותית.

פרופסור חבר לו אנה טואן, מהאוניברסיטה הטכנולוגית נאניאנג (סינגפור) ואוניברסיטת וין יוני (וייטנאם), אמר כי למדינות אחרות יש מערכי נתונים של כ-10 שנים, אך וייטנאם מתחילה מאפס. לכן, אנו יכולים לבנות נתונים בני קיימא מההתחלה, ולספק נתונים נקיים, אתיים ומותאמים מבחינה תרבותית כבר מההתחלה.

עם זאת, האתגר הגדול ביותר עבור וייטנאם הוא הספציפיות של השפה הוייטנאמית. יש לנו מערכת דיאלקטים מגוונת, תרבות אזורית עשירה וצורות פנייה מורכבות ביותר. מודלים גדולים כמו ChatGPT או Gemini תומכים בווייטנאמית אך האיכות אינה עמוקה משום שהם אינם מבינים את הדיאלקט, המנהגים או ההיסטוריה הוייטנאמית.

וייטנאם צריכה לבנות מודל וייטנאמי משלה. בנוסף, עלינו לפתח מודל קוד פתוח כדי שעסקים קטנים יוכלו להשתמש בו ולתרום. "אם נסתמך רק על מודלים זרים בצורת 'קופסאות שחורות', נהיה רק ​​משתמשי בינה מלאכותית ולא מפתחי בינה מלאכותית", אמר.

נכון לעכשיו, פרופסור חבר לו אנה טואן ועמיתיו בונים נתוני בינה מלאכותית וייטנאמית. יש להתייחס לגורמים כמו דיאלקט, היסטוריה ותרבות כמוקד.

הוא גם אמר שבמדינות זרות, סטודנטים לומדים על בינה מלאכותית מוקדם מאוד. וייטנאם רק מתחילה את זה, אבל אנחנו יכולים להאיץ את זה על ידי למידה והתאמה בהתאם.

"צעירים וייטנאמים הם מאוד דינמיים; הם רק צריכים לקבל חינוך מלא לגבי אחריות דיגיטלית. צריך שיהיה לנו גוף מאוחד שיאשר ויתקנן את איכות הנתונים ואת הסטנדרטים האתיים. VinUni משתתפת גם במועצה לבניית מערכת סטנדרטים אתיים ותמשיך לתרום לתהליך הזה", אמר.

פרופסור חבר לו אן טואן, האוניברסיטה הטכנולוגית נאניאנג (סינגפור), אוניברסיטת VinUni (וייטנאם).

בתגובה לאסטרטגיית ההשקעות הזרות הזרות שמטרתה להוביל את וייטנאם בתחום הבינה המלאכותית באזור עד שנת 2030, פרופסור טואן מאמין שלווייטנאם יש משאבי אנוש איכותיים - כפי שמוכח בהישגים בינלאומיים במתמטיקה, פיזיקה וכימיה. אם נדע כיצד לגייס כוחות ולנהל מדיניות חזקה, ניתן יהיה להשיג את יעד 2030 במלואה.

פרופסור טובי וולש ממליץ שווייטנאם תשקיע באנשים ותשפר באופן יזום את כישוריהם, תבטיח שהם מבינים בינה מלאכותית ותתמוך ביזמים, בעסקים ובאוניברסיטאות בתחום הבינה המלאכותית. במקום לחכות שמדינות אחרות יעבירו טכנולוגיה או ינחו אותנו, עלינו להיות יזומים ולשלוט בטכנולוגיה.

בנוסף, וייטנאם צריכה לגייס באופן משמעותי פלטפורמות רשתות חברתיות כדי ליצור סביבה בטוחה למשתמשים מקומיים, מבלי לפגוע בדמוקרטיה של המדינה.

תאו לה-טיין לאם

מקור: https://nhandan.vn/artificial-intelligence-should-strengthen-safety-rather-than-it-should-focus-on-manh-hon-development-post927530.html