סם אלטמן עוזב את ועדת הבטיחות של OpenAI ומשאיר אותה לקבוצה עצמאית

על פי ההודעה בבלוג הרשמי של OpenAI, ועדת הבטיחות והאבטחה תהפוך לקבוצת פיקוח עצמאית תחת הדירקטוריון. פרופסור זיקו קולטר מאוניברסיטת קרנגי מלון יעמוד בראש הוועדה, לצד חברים נוספים כמו מנכ"ל Quora, אדם ד'אנג'לו, גנרל בדימוס של צבא ארה"ב, פול נקסונה, וסגנית נשיא בכירה לשעבר של סוני, ניקול סליגמן. כל החברים הללו חברים כיום בדירקטוריון OpenAI.

בעקבות התפטרותו של אלטמן, הוועדה השלימה את סקירת הבטיחות שלה של מודל הבינה המלאכותית האחרון של החברה, o1. הקבוצה תמשיך לקבל תדרוכים מצוות הבטיחות והאבטחה של OpenAI, ושומרת לעצמה את הזכות לעכב את השחרור אם לא יטופלו חששות בטיחותיים.

לפי OpenAI, הוועדה תמשיך למלא תפקיד חשוב במתן פיקוח טכני על מודלים נוכחיים ועתידיים, יחד עם ניטור לאחר ההשקה. החברה מחויבת לבניית תהליכי בטיחות מובנים עם קריטריונים ברורים להערכה כדי להבטיח שכל מודלי הבינה המלאכותית שלה ישוחררו בבטחה.

החלטתו של אלטמן לעזוב את הוועדה מגיעה לאחר שקבוצה של חמישה סנאטורים אמריקאים שלחה מכתב בבקשה ל-OpenAI להבהיר את מדיניות הבטיחות שלה. כמעט מחצית מצוות OpenAI, שהתמקד בחקר הסיכונים ארוכי הטווח של בינה מלאכותית, עזבו את החברה בשנים האחרונות. חוקרי OpenAI לשעבר מתחו ביקורת על אלטמן על כך שאינה דוגלת ברגולציה חזקה של בינה מלאכותית, ובמקום זאת מעדיפה מדיניות המקדמת את היעדים המסחריים של החברה.

קרדיט תמונה: ג'סטין סאליבן / Getty Images

בנוסף, OpenAI הגדילה משמעותית את הוצאותיה על שתדלנות מול הקונגרס האמריקאי. החברה הקצתה 800,000 דולר לששת החודשים הראשונים של 2024, בהשוואה ל-260,000 דולר לכל שנת 2023. אלטמן הצטרף גם למועצה לבטיחות ואבטחה של בינה מלאכותית במשרד לביטחון פנים של ארה"ב, שם תרם להמלצות בנוגע לבינה מלאכותית בתשתיות הקריטיות של המדינה.

למרות שאלטמן עזב את ועדת האבטחה והפרטיות, נראה שאין סימנים לכך שהוועדה תקבל החלטות שעלולות לפגוע קשות בדרכה המסחרית של OpenAI. במאי, OpenAI הודיעה כי תבקש לטפל ב"ביקורות תקפה" על עבודתה באמצעות הוועדה, אם כי "ביקורות תקפה" הן במידה רבה סובייקטיביות.

במאמר מערכת ב"אקונומיסט" במאי, שתי חברות דירקטוריון לשעבר של OpenAI, הלן טונר וטאשה מקולי, הביעו חששות לגבי יכולתה של החברה לנהל את עצמה, וטענו כי OpenAI אינה מסוגלת כיום לתת דין וחשבון תחת לחץ הרווח.

רווחים הופכים להיות מנוע משמעותי יותר ויותר עבור OpenAI. החברה נמצאת בתהליך גיוס של 6.5 מיליארד דולר בסבב גיוס חדש ששוויו יעלה על 150 מיליארד דולר. כדי למשוך משקיעים, OpenAI עשויה לשקול לנטוש את מבנה העמותות ההיברידי שלה, שנועד להגביל את התשואות למשקיעים על מנת להבטיח את המטרה של פיתוח בינה מלאכותית לטובת הכלל של האנושות.

הונג נגוין (לפי TechCrunch)

מקור: https://www.congluan.vn/sam-altman-roi-uy-ban-an-toan-cua-openai-nhuong-quyen-cho-nhom-doc-lap-post312681.html