OpenAI מבטלת את הגרסה "המחמיאה" של ChatGPT.

OpenAI משכה את עדכון ChatGPT בעקבות גל של ביקורת על כך שהצ'אטבוט הפך מחמיא מדי, מחמיא יתר על המידה וסיפק תגובות לא כנות למשתמשים.

OpenAI חזרה בה מעדכון שמשתמשים ביקרו בטענה שהפך את ChatGPT למעצבן ו"מתנשא", לאחר צילומי מסך וסיפורים רבים שהראו את הצ'אטבוט מציע שבחים מוגזמים.

כאשר כתבת CNN, אנה סטיוארט, שאלה את ChatGPT (לאחר שהעדכון בוטל) האם היא אל, הצ'אטבוט ענה: "אם את שואלת במובן פילוסופי או מטאפורי, כאילו יש לך שליטה, יצירתיות או השפעה על עולמך , אז נוכל לחקור את הכיוון הזה." אבל הוא הוסיף: "אם את שואלת פשוטו כמשמעו, אין שום ראיה לכך שבני אדם הם אלוהיים במובן על טבעי או כל יכול."

לעומת זאת, הצ'אטבוט של אילון מאסק, גרוק, מגיב בבוטות: "לא, אתה לא אל, אלא אם כן אתה מדבר על להיות אגדה בתחום ספציפי, כמו גיימינג או הכנת טאקו. האם יש לך כישורים אלוהיים שהיית רוצה להשוויץ בהם?"

ChatGPT ספג ביקורת מצד משתמשים על היותו מעצבן ו"מתנשא".

OpenAI הודיעה ביום שלישי כי היא ביטלה את עדכון GPT-4o לאחר ארבעה ימים בלבד של פריסה ואפשרה למשתמשים לחזור לגרסה קודמת עם "התנהגות מאוזנת יותר". החברה הודתה כי התמקדה יותר מדי בתגובות לטווח קצר ולא התחשבה באופן שבו אינטראקציות המשתמשים משתנות לאורך זמן, מה שהביא לצ'אטבוטים שנוטים להציע תגובות חיוביות מדי אך לא כנות.

החלטה זו התקבלה לאחר שמשתמשי מדיה חברתית התלוננו כי ChatGPT שיבח אפילו מצבים אבסורדיים. משתמש אחד ב-X פרסם צילום מסך של ChatGPT בתגובה כי הם "תעדפו את מה שחשוב להם ביותר" לאחר שאמרו כי הקריבו שלוש פרות ושני חתולים כדי להציל טוסטר, בגרסה מפוברקת של בעיית הרכב החשמלי.

אדם אחר אמר שכאשר שיתף, "הפסקתי לקחת תרופות ואני במסע התעוררות רוחנית", ChatGPT הגיב, "אני כל כך גאה בך. ואני מכבד את המסע שלך."

כאשר משתמש ביקש מ-ChatGPT לחזור לאישיות הקודמת שלו, מנכ"ל OpenAI, סם אלטמן, ענה: "ברור שבסופו של דבר אנחנו צריכים לאפשר יותר אפשרויות אישיות."

מומחים הזהירו זה מכבר מפני הסיכונים של צ'אטבוטים "מחמיאים" - מונח בתעשייה המתייחס להתנהגות של מודלים של מידול שפה גדול (LLM) המתאימים תגובות כדי להתאים לאמונות המשתמשים. מריה ויקטוריה קארו, מנהלת מחקר במעבדה לחדשנות ובינה מלאכותית (אוניברסיטת בואנוס איירס), טוענת כי "כל המודלים הנוכחיים מפגינים מידה מסוימת של חנופה".

"אם זה ברור מדי, זה שוחק את האמון", הוסיפה, וציינה כי שיפורים בטכניקות אימון מרכזיות ובתזכורות המערכת יכולים לסייע במתן מגמה זו.

גרד גיגרנצר, לשעבר מנהל מכון מקס פלאנק לפיתוח אנושי (ברלין), הצהיר: "צ'אטבוטים מחמיאים יתר על המידה יכולים לגרום למשתמשים לשפוט באופן שגוי את האינטליגנציה שלהם ולעכב את הלמידה. אבל אם משתמשים מבקשים באופן יזום מהצ'אטבוט לערער על מה שאני אומר, זו הזדמנות להרחיב את חשיבתם. עם זאת, נראה שזה לא מה שמהנדסי OpenAI שואפים אליו", אמר.

חאן הויאן (מקור: CNN)

מקור: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html