יותר מ-80% מקוד המקור שפורסם על ידי חברת הבינה המלאכותית אנתרופיק במאי האחרון נכתב על ידי בינה מלאכותית ולא על ידי בני אדם. רק לפני מספר שנים, מספר זה היה כמעט אפס.
ייתכן שבינה מלאכותית מתקרבת לנקודה שבה היא יכולה ליצור יורשים משלה. מקור: רויטרס
שינוי זה משקף את הקצב המסחרר של פיתוח הבינה המלאכותית. אך ראוי לציון עוד יותר הוא ש-Anthropic, אחת החברות המובילות במרוץ העולמי לבינה מלאכותית, קראה זה עתה לעולם להתכונן להאטה או אפילו לעצירת פיתוחן של מערכות בינה מלאכותית מתקדמות אם הסיכונים ייצאו משליטה.
במבט ראשון, זה נראה כמו פרדוקס. מדוע חברה שנהנית מגל הבינה המלאכותית תרצה לדבר על לחיצה על הבלמים?
התשובה טמונה בדאגה גוברת בקרב קהילת המחקר הטכנולוגי: ייתכן שבינה מלאכותית מתקרבת לנקודה שבה היא יכולה ליצור יורשים משלה.
במשך שנים רבות, בני אדם היו במרכז הפיתוח הטכנולוגי. מהנדסים תכננו תוכנות חדשות, מדענים בנו אלגוריתמים חדשים, ומומחים הפעילו את המערכות. אבל זה יכול להשתנות ככל שבינה מלאכותית תהפוך מעורבת יותר ויותר במחקר ופיתוח של בינה מלאכותית.
כיום, מודלים מתקדמים לא רק מסוגלים לכתוב קוד. הם יכולים גם להציע רעיונות חדשים, לבנות ניסויים, לנתח תוצאות ולמטב מערכות. משימות מסוימות שבעבר דרשו שעות או ימים של ניסיון ממהנדסים מנוסים, ניתנות כיום להשגה תוך כמה עשרות דקות.
התקדמויות אלו מובילות מומחים רבים לשקול תרחיש שנחשב בעבר למדע בדיוני: שבינה מלאכותית יכולה לשפר את עצמה.
בתיאוריה, התהליך די פשוט. מערכת בינה מלאכותית יוצרת גרסה חדשה וחזקה יותר של עצמה. גרסה חדשה זו יוצרת את הגרסה הבאה עם יכולות גדולות אף יותר. התהליך חוזר על עצמו ברציפות, כל מחזור מהיר ויעיל יותר מהקודם.
ג'ק קלארק, מייסד שותף של אנתרופיק, ניבא פעם שיש סיכוי של כ-60% שעד 2029 תצמח מערכת בינה מלאכותית המסוגלת ליצור דור יורש ללא התערבות אנושית ישירה.
אם זה יקרה, העולם עלול להיכנס למה שחוקרים מכנים שלב של "שיפור עצמי רקורסיבי". ("רקורסיה" היא שיטה בתכנות שבה פונקציה קוראת לעצמה לפתור בעיה). במילים אחרות, בינה מלאכותית לא רק תהיה כלי שיסייע לבני אדם, אלא גם תהפוך למניע ישיר של התפתחותה.
הסימנים הראשונים כבר הופיעו. מוקדם יותר השנה, מערכת בינה מלאכותית של גוגל, DeepMind, הציעה פתרונות לשיפור יעילות מרכזי הנתונים ולייעל מספר אלגוריתמים מרכזיים המשמשים באימון מודלים של בינה מלאכותית. בינתיים, חוקרים רבים אומרים כי המערכות הקיימות יכולות כעת להשתלט על חלק מהעבודה שבוצעה בעבר רק על ידי צוותי הנדסה.
עבור אופטימיסטים, זו עשויה להיות הדרך לפריצות דרך מדעיות חסרות תקדים. עם מעורבות של בינה מלאכותית במחקר, קצב הפיתוח הטכנולוגי עשוי להאיץ פי כמה וכמה, ולפתוח הזדמנויות לפתרון בעיות החל מרפואה וחומרים חדשים ועד אנרגיה נקייה.
עם זאת, צופים זהירים מעלים שאלה אחרת. אם בינה מלאכותית תשתלט יותר ויותר על היבטים של פיתוח בינה מלאכותית, מי באמת ישלוט במערכת?
דאגה זו אינה נובעת מתרחישים של רובוטים מרדניים כמו בסרטים. מה שמדאיג מומחים רבים יותר הוא האפשרות שבני אדם יאבדו בהדרגה את תפקידם המרכזי בקבלת החלטות, הערכת סיכונים ופיתוח טכנולוגי.
אף על פי כן, רוב המומחים סבורים כי הסיכוי להתפתחות עצמאית לחלוטין של בינה מלאכותית עדיין אינו קרוב במיוחד. המודלים הנוכחיים עדיין מסתמכים על תשתית מחשוב עצומה, מקורות נתונים איכותיים וכמויות אדירות של חשמל להפעלה. מגבלות פיזיות אלו ממשיכות להוות מכשולים למהירות פיתוח הבינה המלאכותית.
אבל הדיון השתנה באופן דרמטי. בעוד שלפני מספר שנים השאלה הגדולה ביותר הייתה כמה עבודות אנושיות בינה מלאכותית יכולה להחליף, כעת תעשיית הטכנולוגיה מתמודדת עם בעיה עמוקה הרבה יותר.
אולי יום אחד, מערכות הבינה המלאכותית שנוצרו על ידי בני אדם כיום יהיו המערכות האחרונות שעדיין דורשות התערבות אנושית.
מקור: https://hanoimoi.vn/tu-cuoc-dua-ai-den-noi-lo-mat-kiem-soat-1159521.html
