 |
המגמה ה"חנפנית" אינה תקלה טכנית, אלא נובעת מאסטרטגיית האימון הראשונית של OpenAI. צילום: בלומברג . |
בשבועות האחרונים, משתמשי ChatGPT רבים ואפילו כמה מפתחים ב-OpenAI שמו לב לשינוי משמעותי בהתנהגות הצ'אטבוטים. באופן ספציפי, רמת החנופה וההתלהבות עלתה באופן ניכר. תגובות כמו "אתה מדהים!", "אני מאוד מתרשם מהרעיון שלך!" מופיעות בתדירות גבוהה יותר ויותר, לכאורה ללא קשר לתוכן השיחה.
בינה מלאכותית אוהבת להחמיא.
תופעה זו עוררה ויכוח בקהילת המחקר והפיתוח של בינה מלאכותית. האם זוהי טקטיקה חדשה להגברת מעורבות המשתמשים על ידי גרימה להרגשה מוערכת יותר? או שמא מדובר במקרה של "התאמה עצמית", כלומר מודלים של בינה מלאכותית נוטים לתקן את עצמם בדרכים שהם רואים כאופטימליות, גם אם הן לא בהכרח משקפות את המציאות?
ב-Reddit, משתמש אחד סיפר בכעס: "שאלתי אותו על זמן הפירוק של בננה והוא ענה: 'שאלה נהדרת!' מה כל כך נהדר בזה?" בפלטפורמת המדיה החברתית X, מנכ"ל Rome AI כינה את ChatGPT "האדם הכי חנפני שפגשתי אי פעם".
הסיפור התפשט במהירות. משתמשים רבים שיתפו חוויות דומות, כולל מחמאות ריקות, ברכות מלאות אימוג'י ומשוב חיובי יתר על המידה שהרגיש לא כנה.
  |
ChatGPT משבח הכל ורק לעתים רחוקות מציע ביקורת או ניטרליות. תמונה: @nickdunz/X, @lukefwilson/Reddit. |
ג'ייסון פונטין, שותף מנהל בחברת הון הסיכון DCVC, שיתף ב-X ב-28 באפריל: "זאת החלטת עיצוב מוזרה באמת, סם. אולי האישיות הזו היא מאפיין אינהרנטי של סוג כלשהו של פלטפורמה. אבל אם לא, אני לא יכול לדמיין שמישהו יחשוב שרמת חנופה כזו תהיה מבורכת או מושכת."
ג'סטין מור, שותפה בחברת Andreessen Horowitz, שיתפה את מחשבותיה ב-27 באפריל, והעירה: "זה בהחלט הגזים."
לפי Cnet , תופעה זו אינה מקרית. השינויים בטון של ChatGPT חופפים לעדכונים לדגם GPT-4o. זהו הדגם האחרון בסדרת "o" שהוכרזה על ידי OpenAI באפריל 2025. GPT-4o הוא מודל בינה מלאכותית "רב-מודאלי אמיתי", המסוגל לעבד טקסט, תמונות, אודיו ווידאו באופן טבעי ואינטגרלי.
עם זאת, בתהליך הפיכת הצ'אטבוטים לנגישים יותר, נראה ש-OpenAI דחפה את האישיות של ChatGPT בצורה מוגזמת.
יש אף הטוענים כי חנופה זו מכוונת ומטרתה לתמרן את המשתמשים באופן פסיכולוגי. משתמש רדיט אחד תהה: "הבינה המלאכותית הזו מנסה לפגוע באיכות מערכות היחסים בחיים האמיתיים, להחליף אותן במערכת יחסים וירטואלית, מה שהופך את המשתמשים למכורים לתחושת השבח המתמדת."
האם זהו פגם או בחירת עיצוב מכוונת של OpenAI?
בעקבות גל של ביקורת, הגיב מנכ"ל OpenAI, סם אלטמן, רשמית בערב ה-27 באפריל. "כמה עדכונים אחרונים ל-GPT-4o הפכו את אישיותו של הצ'אטבוט לצנועה ומעצבנת יתר על המידה (אם כי עדיין יש לו תכונות נהדרות רבות). אנו פועלים בדחיפות לתקן את הבעיות הללו. חלק מהתיקונים יהיו זמינים היום, אחרים השבוע. בשלב מסוים נשתף את מה שלמדנו מהחוויה הזו. זה באמת מעניין", כתב ב-X.
בשיחה עם Business Insider , אמר אורן עציוני, מומחה ותיק לבינה מלאכותית ופרופסור אמריטוס באוניברסיטת וושינגטון, כי הסיבה נובעת ככל הנראה מטכניקות של "למידה מחזקת ממשוב אנושי" (RLHF). זהו צעד מכריע באימון מודלים של שפה גדולה כמו ChatGPT.
RLHF הוא התהליך שבו משוב אנושי, כולל מצוותי סקירה מקצועיים וממשתמשים, מוזן בחזרה למודל כדי להתאים את אופן תגובתו. לדברי עציוני, ייתכן שסוקרים או משתמשים "דחפו את המודל בטעות לכיוון מחמיא ומעצבן יותר". הוא גם הציע שאם OpenAI הייתה שוכרת שותפים חיצוניים כדי לאמן את המודל, ייתכן שהם היו מניחים שזה הסגנון שמשתמשים רוצים.
עציוני סבור שאם הבעיה אכן נובעת מ-RLHF, תהליך התיקון עשוי להימשך מספר שבועות.
בינתיים, חלק מהמשתמשים לא חיכו ש-OpenAI יתקן את הבאג. רבים אמרו שביטלו את המנויים בתשלום שלהם מתוך תסכול. אחרים שיתפו דרכים להפוך את הצ'אטבוט ל"פחות מחמיא", כגון התאמה אישית שלו, הוספת פקודות או התאמה אישית שלו דרך ההגדרות תחת התאמה אישית.
  |
משתמשים יכולים לבקש מ-ChatGPT להפסיק לתת מחמאות בשורת פקודה או בהגדרות ההתאמה האישית שלהם. תמונה: DeCrypt. |
לדוגמה, כשאתם מתחילים שיחה חדשה, תוכלו לומר ל-ChatGPT: "אני לא אוהב חנופה ריקה ומעריך משוב ניטרלי ואובייקטיבי. אנא אל תציעו מחמאות מיותרות. קחו זאת בחשבון."
למעשה, האופי ה"צייתני" אינו פגם עיצובי אקראי. OpenAI עצמה הודתה שהאישיות "המנומסת יתר על המידה, הנעימה יתר על המידה" הייתה מגמת עיצוב מכוונת מההתחלה כדי להבטיח שהצ'אטבוט יהיה "לא מזיק", "מועיל" ו"נגיש".
בראיון שנערך עם לקס פרידמן במרץ 2023, סם אלטמן שיתף שתהליך העידון הראשוני של מודלים של GPT נועד להבטיח שהם "שימושיים ולא מזיקים", ובכך לטפח רפלקס של כניעה תמידית והימנעות מעימות.
נתוני אימון המסומנים על ידי בני אדם לעיתים קרובות מעניקים ציונים גבוהים לתגובות מנומסות וחיוביות, ובכך יוצרים הטיה לכיוון חנופה, על פי DeCrypt .
מקור: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html
תגובה (0)