תמונה 8_אודרי לורבו.jpg
אודרי לורבו היא סטודנטית בשנה האחרונה למדעי המחשב, כלכלה ומדעי הנתונים, וחוקרת אחריות חברתית ואתיקה במחשוב (SERC). צילום: MIT

מחקר בטיחות בינה מלאכותית - תחום חשוב

אודרי לורבו חוקרת כעת את בטיחות הבינה המלאכותית, תחום שמטרתו להבטיח שמודלים של בינה מלאכותית חכמה יותר ויותר יישארו אמינים ומועילים לאנושות. התחום מתמקד באתגרים טכניים כגון סבילות לשגיאות והתאמת בינה מלאכותית לערכים אנושיים, תוך התייחסות גם לסוגיות חברתיות כגון שקיפות ואחריות. מומחים מודאגים גם מהסיכונים הקיומיים של בינה מלאכותית חזקה יותר ויותר.

"הבטחת שימוש לרעה בבינה מלאכותית או פעולה בניגוד לכוונות אנושיות חשובה יותר ויותר, במיוחד ככל שאנו מתקרבים לבינה מלאכותית כללית (AGI)", שיתף לורבו.

לורבו, חוקרת בתוכנית SERC (חברתי ואתי מחשוב) במכון שוורצמן לחישוב ב-MIT, מתעניינת באופן שבו בינה מלאכותית יכולה להפוך תהליכי מחקר ופיתוח בתחום לאוטומטיים. "אנחנו צריכים לעשות כל שביכולתנו כדי לפתח בינה מלאכותית בבטחה", הדגישה, והפנתה את תשומת הלב למסגרות ואסטרטגיות ממשל מתאימות להתמודדות עם סיכונים.

לורבו מחויבת להבנת ההיבטים הטכניים של בטיחות בינה מלאכותית באמצעות יוזמות כמו מלגת הנדסת בטיחות בינה מלאכותית, המסייעת לה לחקור דרכים להדריך את פיתוח בינה מלאכותית בדרכים המועילות לאנושות.

"התוכנית עזרה לי להשיג הבנה מעמיקה יותר של הסוגיות והאתגרים הטכניים של בטיחות בינה מלאכותית, ובכך להציע אסטרטגיות ניהול בינה מלאכותית יעילות יותר", היא שיתפה.

לדברי לורבו, חלוצי הבינה המלאכותית דוחפים את הגבולות הטכנולוגיים, ודורשים יישום יעיל של מדיניות שתעדף את בטיחות האדם מבלי להפריע למחקר.

הערך של גישה רב-תחומית

מרגע שנכנסה ל-MIT, לורבו רצתה לשלב מדעים ומדעי הרוח. עם זאת, מגוון תחומי ההכשרה הקשה עליה לבחור תחום לימודים ספציפי.

"ישנן דרכים רבות לשפר את איכות החיים, ו-MIT מציעה אינספור דרכים לחקור אותן. שיעורי האקונומטריקה של פרופסור ג'ושוע אנגריסט עזרו לי לראות את הערך של מחקר כלכלי, בעוד שמדעי הנתונים והמחשוב ריתקו אותי בגלל הפוטנציאל הגובר של בינה מלאכותית. אנו יכולים להשתמש בכלים אלה כדי לפתור את הבעיות הדוחקות ביותר שלנו ולהתגבר על אתגרים רציניים", אמר לורבו.

לורבו גם הרחיבה את מחקרה לתכנון עירוני ופיתוח בינלאומי. ככל שהעמיקה בתחומה, היא הבינה שסטודנטים רבים ב-MIT, ובמיוחד קבוצת MIT AI Alignment, חלקו את דעותיה על טכנולוגיה אחראית.

המושג "השפעה שולית" מתאר את ההשפעה הנוספת של השקעת זמן, כסף או מאמץ בתחום נתון. לדברי לורבו, גישה זו מסייעת לאנשים להחליט כיצד להשקיע את משאביהם בצורה יעילה יותר.

בעולם של משאבים מוגבלים, טוען לורבו, גישה מבוססת נתונים יכולה לסייע בהקצאת משאבים לתחומים שסביר להניח שיפיקו את התועלת הגדולה ביותר. אם ברצוננו למקסם את ההשפעה החברתית, חשוב לחשוב על ההשפעה השולית של בחירות קריירה.

חוויית הסטודנטים ב-MIT

בנוסף ללימודים, לורבו משתתפת באופן פעיל בפעילויות חוץ-לימודיות כדי לבנות חוויות משמעותיות ולהתחבר עם תלמידים אחרים.

"אני בר מזל שאני מסוגל לאזן בין הלימודים, המחקר, פעילויות המועדון ותחומי העניין האישיים שלי כמו אימוני משקולות או השתתפות ביוזמות חוץ-לימודיות. ב-MIT תמיד יש הרבה מועדונים ואירועים מעניינים לחקור", אמר לורבו.

הזדמנויות אלו לא רק הרחיבו את אופקיה, אלא גם עזרו לה לכוונן את מסלול הקריירה שלה. לורבו, הדוברת צרפתית, אנגלית, ספרדית ופורטוגזית שוטפת, העריכה גם את תוכניות ההתנסות הבינלאומיות של MIT.

לורבו, שהתמחתה בסנטיאגו דה צ'ילה ובפריז במסגרת תוכנית MISTI, השתתפה גם בבדיקת מערכת עיבוי קיטור שתוכננה על ידי צוותו כחלק ממחזור 2023 של D-Lab, בשיתוף פעולה עם בית הספר הפוליטכני של מדגסקר והארגון הלא ממשלתי טאטיראנו. חוויות אלו עזרו לה להבין כיצד להתמודד עם אי-שוויון כלכלי.

לאחר סיום לימודיו, לורבו אמר שהוא רוצה להמשיך לחקור אסטרטגיות בטיחות וממשל של בינה מלאכותית כדי להבטיח פריסה בטוחה ויעילה של בינה מלאכותית.

"ממשל תקין הוא המפתח לפיתוח מוצלח של בינה מלאכותית ולסיוע לאנושות לנצל את הפוטנציאל הטרנספורמטיבי שלה. עלינו לעקוב באופן רציף אחר התפתחות הבינה המלאכותית ככל שהטכנולוגיה ממשיכה להתפתח", טען לורבו.

(על פי MIT News)