מודל ה"אינטליגנציה העל" שעומד מאחורי שערוריית OpenAI

[מודעה_1]

על פי מקורות ב-Tech.co , בזמן שהמחלוקת סביב פיטוריו של המנכ"ל סם אלטמן וחזרתו ל-OpenAI נמשכה, אחת השמועות הייתה על מכתב ששלחו חוקרי החברה לדירקטוריון, ובו הבעת חששות בנוגע למודל הסופר-אינטליגנציה של בינה מלאכותית הנמצא בפיתוח ועלול להוות איום על האנושות.

פרויקט Q*

המודל, המכונה באופן פנימי פרויקט Q* (מבוטא Q-star), מייצג, ככל הנראה, פריצת דרך משמעותית במרדף של OpenAI אחר בינה כללית מלאכותית (AGI) - ענף אוטונומי ביותר של אינטליגנציית-על המסוגל ללמוד מצטבר ולבצע ביצועים טובים יותר מבני אדם ברוב המשימות.

לפי מקורות המעורים בנושא, Q* עשוי לסמן קפיצת מדרגה משמעותית בתחום הבינה המלאכותית על ידי שיפור קיצוני של יכולות החשיבה של הבינה המלאכותית וקירוב OpenAI לפריצת דרך משמעותית בפיתוח AGI.

בניגוד למודלים הנוכחיים של בינה מלאכותית, המתמקדים ביכולת לייצר תגובות המבוססות על מידע שנלמד קודם לכן, AGI היא מערכת אוטונומית שיכולה ליישם "היגיון" על החלטות, מה שמעניק לה יכולות פתרון בעיות ברמה האנושית.

בעוד ש-AGI עדיין לא מומש במלואה, מומחים רבים מאמינים שלטכנולוגיה תהיה גם יכולת ללמוד באופן מצטבר, תכונה נוספת המעניקה לבני אדם את היכולת לשפר את יכולותיהם.

מקורות מסוימים טוענים כי Q* - הפרויקט של OpenAI הצליח להדגים את התכונות הנ"ל בעת פתרון בעיות. לא רק זאת, הודות לכוח החישוב העצום של המודל, Q* הצליח להתעלות על תלמידי בית ספר יסודי, ולהפגין כישורי חשיבה ויכולות קוגניטיביות מעבר ליכולות של טכנולוגיית הבינה המלאכותית הנוכחית.

לא ברור כמה זמן Q* נמצא בפיתוח ומהם היישומים שלו, אך OpenAI הודיעה לעובדים ולחברי הדירקטוריון על הפרויקט לפני שפרצה שערוריית כוח האדם.

חששות אתיים

בעוד שמנכ"ל OpenAI, סם אלטמן, בטוח שטכנולוגיית AGI תניע חדשנות, כמה חוקרים מיהרו להצביע על הסכנות הפוטנציאליות של הפרויקט.

במכתב לדירקטוריון, הזהירו החוקרים מפני הסכנות הפוטנציאליות של אלגוריתם רב עוצמה זה לאנושות. החששות האתיים הספציפיים בנוגע לבינה מלאכותית שהוצגו במכתב לא נחשפו, אך האזהרות הספיקו כדי להצדיק את החלטת הדירקטוריון לפטר את אלטמן.

בינתיים, הסיבה הראשונית שניתנה לפיטורי אלטמן הייתה שהמנכ"ל "תקשורת גרועה". עד מהרה הוא מצא תפקיד חדש במיקרוסופט. פעולה זו גרמה ל-700 מתוך 770 עובדי OpenAI לאיים לעשות את אותו הדבר אם המנכ"ל לא יוחזר לתפקידו.

כאשר החברה הייתה בסכנת קריסה, נאלץ דירקטוריון OpenAI להחזיר את אלטמן לתפקיד הבכיר - מה שהוביל גם לשינוי משמעותי בצוות הניהולי של החברה והדגיש פילוגים עמוקים בתוך הנהלת החברה.

כעת, כשאלטמן חזר לתפקיד וסביר להניח שפרויקט Q* יקבל שוב אור ירוק, זה מעלה שאלות חדשות.

עד כמה פרויקט Q* ריאליסטי?

בעוד שהימים הסוערים ב-OpenAI הביאו את מושג ה-AGI לאור הזרקורים, זו לא הפעם הראשונה שאלטמן מזכיר את הטכנולוגיה.

היזם מעמק הסיליקון מצא את עצמו בצרות צרורות בספטמבר לאחר שהשווה את AGI ל"אדם ממוצע שהייתם יכולים לשכור כעמית לעבודה". הוא המשיך לדברים שהשמיע בשנה שעברה על כך שבינה מלאכותית יכולה "לעשות כל מה שאתם יכולים עם עמית לעבודה מרחוק", כולל לימוד איך להיות רופא ומתכנת טוב.

בעוד שהשוואת AGI לאינטליגנציה של "אדם ממוצע" אינה דבר חדש, השימוש של אלטמן בביטוי נחשב "מתועב" על ידי האתיקאי של הבינה המלאכותית ופרופסור מאוניברסיטת קיימברידג', הנרי שבלין, כאשר החששות סביב השפעתה של בינה מלאכותית על ביטחון תעסוקתי גוברים.

פריצות דרך פוטנציאליות בתחום AGI מדליקות גם פעמוני אזהרה בקרב חוקרים אחרים - שהטכנולוגיה מפותחת מהר יותר ממה שבני אדם יכולים להבין את השפעתה במלואה.

OpenAI מאמינה שהתוצאות החיוביות של AGI הופכות את "שדה המוקשים" המסוכן הזה לכדאי לרדוף אחריו. אבל ככל שהחברה ממשיכה להתקדם בכיוון הזה, רבים חוששים שאלטמן מעדיף הצלחה מסחרית על פני האינטרסים של המשתמשים והחברה.

Phuong Anh (מקור: Tech.co, The Guardian)

[מודעה_2]
מָקוֹר