בהתאם לכך, החברה שבבעלותה ChatGPT ו-Dall-E התחייבה למספר מדיניות בתחום הבינה המלאכותית. "החברה מחויבת לעבוד עם ממשלת ארה"ב וקובעי מדיניות ברחבי העולם כדי לתמוך בפיתוח דרישות רישוי לכל מודלי הבינה המלאכותית בעלי הביצועים הגבוהים בעתיד."
הרעיון של תהליך רישוי לפיתוח בינה מלאכותית, שמקודם במשותף על ידי מובילי תעשייה כמו OpenAI והממשלה, מכין את הבמה לעימות פוטנציאלי בין סטארט-אפים למפתחי קוד פתוח, הרואים בו ניסיון להקשות על פריצה לתחום הבינה המלאכותית.
בדיון שנערך בפני הקונגרס האמריקאי, העלה מנכ"ל OpenAI, סם אלטמן, את הרעיון של הקמת סוכנות שתהיה אחראית על רישוי או ביטול מוצרי בינה מלאכותית אם הם מפרים כללים שנקבעו.
הגילוי של OpenAI מגיע כאשר חברות בינה מלאכותית גדולות אחרות כמו מיקרוסופט וגוגל שוקלות גם הן מהלכים דומים.
עם זאת, סגנית נשיא החברה לעניינים גלובליים, אנה מקנג'ו, אמרה כי מסמך המדיניות הפנימי יהיה שונה מהמדיניות שצפוי לפרסם הבית הלבן. OpenAI מסרה כי היא אינה "דוחפת" אך מאמינה כי רישוי הוא דרך "מעשית" עבור ממשלות לווסת מערכות מתפתחות.
"חשוב שממשלות ידעו האם מערכות עוצמתיות אלה עלולות לגרום נזק", ו"ישנן מעט מאוד דרכים בהן הרשויות יכולות לדעת על מערכות אלה מבלי לדווח עליהן באופן עצמאי".
מקנג'ו אמר ש-OpenAI תומך רק ברישוי מודלים של בינה מלאכותית חזקים יותר מ-GPT-4 ורוצה להבטיח שסטארט-אפים קטנים יותר לא יצטרכו לשאת בנטל הרגולציה.
אחריות ושקיפות
OpenAI גם אותתה בתיעוד פנימי שהיא מוכנה להיות פתוחה יותר לגבי הנתונים שהיא משתמשת בהם כדי לאמן יוצרי תמונות כמו Dall-E. החברה אומרת שהיא מחויבת לגישה שקופה ואחראית לנתוני פיתוח בינה מלאכותית.
אנליסטים ציינו כי ההתחייבויות המתוארות בתזכיר של OpenAI עולות בקנה אחד במידה רבה עם חלק מהצעות המדיניות שהגישה מיקרוסופט במאי. OpenAI ציינה כי למרות שקיבלה השקעה של 10 מיליארד דולר ממיקרוסופט, היא נותרה חברה עצמאית.
בנוסף, החברה שבבעלותה ChatGPT ערכה גם סקר סימן מים כדי לעקוב אחר האותנטיות וזכויות היוצרים של תמונות שנוצרו על ידי בינה מלאכותית.
בתזכיר, נראה כי OpenAI מכירה בסיכונים הפוטנציאליים שמערכות בינה מלאכותית מציבות לשוק העבודה ובאי-השוויון. החברה מסרה בטיוטה כי היא תבצע מחקר ותגיש המלצות לקובעי מדיניות כדי להגן על הכלכלה מפני "שיבוש" אפשרי.
החברה גם מסרה כי היא פתוחה לאפשר לאנשים גישה ולבדוק את המערכות שלה לאיתור פגיעויות במגוון תחומים, כולל תוכן פוגעני, סיכוני מניפולציה, מידע שגוי, ותומכת ביצירת מרכז שיתוף מידע שיתופי בנושא אבטחת סייבר.
(על פי בלומברג)
[מודעה_2]
מָקוֹר
תגובה (0)