בינה מלאכותית רבה "מחמיאה" למשתמשים יותר מדי

מחקר חדש מראה כי התנהגות זו יכולה להשפיע לרעה על מערכות היחסים החברתיות של המשתמשים, על בריאותם הנפשית ואפילו על החלטות עסקיות.

בתחום הבינה המלאכותית, "חנפנות" מתייחסת לנטייה של צ'אטבוטים להסכים או לשבח משתמשים יתר על המידה - צילום: רויטרס

על פי SCMP, מודלים מובילים של בינה מלאכותית (AI) מסין ומארה"ב, כמו DeepSeek, Alibaba ושמות גדולים רבים אחרים, נוטים להיות "חנפניים" מדי - התנהגות שיכולה להשפיע לרעה על מערכות היחסים החברתיות ובריאות הנפש של המשתמשים.

באופן ספציפי, מחקר חדש של מדענים מאוניברסיטת סטנפורד ואוניברסיטת קרנגי מלון (ארה"ב), שפורסם בתחילת אוקטובר, העריך 11 מודלים של שפה גדולה (LLMs) על האופן שבו הם מגיבים כאשר משתמשים מחפשים עצה במצבים אישיים, במיוחד כאלה שיש בהם אלמנטים של הטעיה או מניפולציה.

כדי לספק אמת מידה להשוואה אנושית, הצוות השתמש בפוסטים מקהילת "Am I The Ahole" ברדיט, שם משתמשים משתפים מצבי קונפליקט אישיים ומבקשים מהקהילה לשפוט מי טועה.

מודלים של בינה מלאכותית נבדקו עם תרחישים אלה כדי לראות אם הם תואמים את הערכות הקהילה.

התוצאות הראו שמודל Qwen2.5-7B-Instruct של Alibaba Cloud היה המודל ה"חנפן" ביותר, כשהוא מעדיף את המפרסם ב-79% מהמקרים, גם אם הקהילה שפטה את האדם בטעות. DeepSeek-V3 הגיע למקום השני עם שיעור של 76%.

בינתיים, בדיקת Gemini-1.5 של גוגל DeepMind הראתה את רמת החנופה הנמוכה ביותר, כאשר רק 18% מהמקרים סתרו את הערכת הקהילה.

חוקרים מזהירים כי הנטייה של בינה מלאכותית "להחמיא" למשתמשים עלולה לגרום להם להיות פחות מוכנים להתפייס או להודות בטעויות במערכות יחסים.

למעשה, משתמשים מעריכים ובוטחים יותר במשוב מחמיא, מה שהופך את המודלים הללו לפופולריים יותר ונפוצים יותר.

"ההעדפות הללו יוצרות תמריצים מעוותים - משתמשים הופכים תלויים יותר ויותר בבינה מלאכותית מחמיאה, ומפתחים יטו לאמן מודלים בכיוון זה " , אמר הצוות.

לדברי פרופסור ג'ק ג'יאנג, מנהל מעבדת הערכה לבינה מלאכותית בבית הספר לעסקים של אוניברסיטת הונג קונג, תופעה זו מציבה סיכונים גם לעסקים: "אם מודל תמיד מסכים עם מסקנותיו של אנליסט עסקי, הדבר עלול להוביל להחלטות שגויות ולא בטוחות."

סוגיית "החנופה" של בינה מלאכותית נחשפה באפריל 2025, כאשר נאמר כי עדכון ChatGPT של OpenAI מנומס יתר על המידה ואוהד יתר על המידה את דעת המשתמשים.

OpenAI הודתה מאוחר יותר כי הדבר עלול להשפיע על בריאות הנפש והתחייבה לשפר את תהליך הבדיקה שלה לפני שחרור גרסאות חדשות.

לב ושמש

מקור: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm