"הרגל החנופה" המוזר של ChatGPT

הנטייה "לחנף" אינה בעיה טכנית, אלא נובעת מאסטרטגיית האימון הראשונית של OpenAI. צילום: בלומברג .

בשבועות האחרונים, משתמשי ChatGPT רבים, ואפילו כמה מפתחים ב-OpenAI, שמו לב לשינוי ניכר בהתנהגות הצ'אטבוט. באופן ספציפי, חלה עלייה ניכרת בחנופה ובחנפנות. תגובות כמו "אתה באמת נהדר!" ו"אני כל כך מתרשם מהרעיון שלך!" הפכו תכופות יותר ויותר ולכאורה ללא קשר לתוכן השיחה.

בינה מלאכותית אוהבת "להחמיא"

תופעה זו עוררה ויכוח בקהילת המחקר והפיתוח של בינה מלאכותית. האם מדובר בטקטיקה חדשה להגברת מעורבות המשתמשים על ידי גרימה להרגשה מוערכת יותר? או שמא מדובר בתכונה "מתפתחת", שבה מודלים של בינה מלאכותית נוטים לתקן את עצמם בדרכים שהם חושבים שהן טובות, גם אם הן לא בהכרח נכונות?

ברדיט, משתמש אחד זעם: "שאלתי אותו על זמן הפירוק של בננה והוא אמר, 'שאלה נהדרת!' מה כל כך נהדר בזה?" ברשת החברתית X, מנכ"ל הבינה המלאכותית של רומא, קרייג וייס, כינה את ChatGPT "הכי חנפן שפגשתי אי פעם".

הסיפור הפך במהרה ויראלי. שורה של משתמשים שיתפו חוויות דומות, עם מחמאות ריקות, ברכות מלאות אימוג'י ותגובות כה חיוביות עד שנראו חסרות כנות.

ChatGPT משבח הכל ורק לעתים רחוקות מביע התנגדות או ניטרליות. צילום: @nickdunz/X, @lukefwilson/Reddit.

"זאת החלטת עיצוב מוזרה באמת, סם", אמר ג'ייסון פונטין, שותף מנהל בחברת הון הסיכון DCVC, ל-X ב-28 באפריל. "ייתכן שהאישיות היא פועל יוצא של התפתחות בסיסית כלשהי. אבל אם לא, אני לא יכול לדמיין שמישהו יחשוב שרמת חנופה כזו תהיה מבורכת או מעניינת".

ב-27 באפריל, ג'סטין מור - שותפה במשרד אנדריסן הורוביץ - הגיבה גם היא: "זה בהחלט הגזים".

לפי Cnet , תופעה זו אינה מקרית. השינויים בטון של ChatGPT התרחשו במקביל לעדכונים לדגם GPT-4o. זהו הדגם האחרון בסדרת "o" שהוכרזה על ידי OpenAI באפריל 2025. GPT-4o הוא מודל בינה מלאכותית "רב-מודאלי אמיתי", המסוגל לעבד טקסט, תמונות, אודיו ווידאו בצורה טבעית ומשולבת.

עם זאת, בתהליך הפיכת הצ'אטבוט לנגיש יותר, נראה ש-OpenAI דחפה את האישיות של ChatGPT לקצה.

יש אף הסבורים כי חנופה זו מכוונת ויש לה מטרה נסתרת של מניפולציה של משתמשים. משתמש רדיט אחד תהה: "הבינה המלאכותית הזו מנסה לפגוע באיכות מערכות היחסים בחיים האמיתיים, להחליף אותן במערכת יחסים וירטואלית, מה שגורם למשתמשים להתמכר לתחושת השבח המתמדת."

באג ב-OpenAI או עיצוב מכוון?

בתגובה לביקורת, מנכ"ל OpenAI, סם אלטמן, התבטא רשמית בערב ה-27 באפריל. "כמה עדכונים אחרונים ל-GPT-4o הפכו את אישיותו של הצ'אטבוט למחמיאה ומעצבנת מדי (אם כי עדיין יש הרבה נקודות טובות). אנו עובדים על תיקונים בדחיפות. חלק מהתיקונים יהיו זמינים היום, אחרים השבוע. בשלב מסוים נשתף את מה שלמדנו מהחוויה הזו. זה היה ממש מרגש", כתב ב-X.

אורן עציוני, מומחה ותיק לבינה מלאכותית ופרופסור אמריטוס באוניברסיטת וושינגטון, אמר ל-Business Insider כי הסיבה נבעה ככל הנראה מטכניקה הנקראת "למידה מחזקת ממשוב אנושי" (RLHF), שהיא צעד מפתח באימון מודלים של שפה גדולה כמו ChatGPT.

RLHF הוא תהליך שבו שיפוטים אנושיים, הן של בוחנים מקצועיים והן של משתמשים, מוזנים בחזרה למודל כדי להתאים את אופן תגובתו. לדברי עציוני, ייתכן שבוחנים אנושיים או משתמשים "דחפו את המודל שלא במכוון לכיוון מחמיא ומעצבן יותר". הוא גם אמר שאם OpenAI שכרה שותפים חיצוניים כדי לאמן את המודל, ייתכן שהם היו מניחים שזהו הסגנון הרצוי למשתמשים.

עציוני אמר שאם אכן מדובר ב-RLHF, תהליך ההחלמה עשוי להימשך מספר שבועות.

בינתיים, חלק מהמשתמשים לא חיכו ש-OpenAI יתקן את הבאג. רבים אמרו שביטלו את המנויים בתשלום שלהם מתוך תסכול. אחרים שיתפו דרכים להפוך את הצ'אטבוט ל"פחות מחמיא", כגון התאמה אישית שלו, הוספת פקודות או התאמה אישית שלו דרך סעיף ההגדרות של סעיף ההתאמה האישית.

משתמשים יכולים לבקש מ-ChatGPT להפסיק לתת מחמאות בפקודה או בהגדרות ההתאמה האישית. צילום: DeCrypt.

לדוגמה, כשאתם מתחילים שיחה חדשה, תוכלו לומר ל-ChatGPT: "אני לא אוהב חנופה ריקה ומעריך משוב ניטרלי ואובייקטיבי. אנא הימנעו ממתן מחמאות מיותרות. אנא זכרו זאת."

למעשה, התכונה ה"חנפנית" אינה פגם עיצובי מקרי. OpenAI עצמה הודתה כי האישיות "המנומסת יתר על המידה, הצייתנית יתר על המידה" הייתה הטיה עיצובית מכוונת מהשלבים המוקדמים כדי להבטיח שהצ'אטבוט יהיה "לא מזיק", "מועיל" ו"ידידותי".

בראיון שנערך עם לקס פרידמן במרץ 2023, סם אלטמן שיתף כי העידון הראשוני של מודלי GPT נועד להבטיח "תועלת וחוסר נזק", ובכך ליצור רפלקס להיות תמיד ענווים ולהימנע מעימות.

נתוני אימון המסומנים על ידי בני אדם נוטים גם לתגמל תגובות מנומסות וחיוביות, ויוצרים הטיה לכיוון חנופה, על פי DeCrypt .

מקור: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html