בינה מלאכותית רבות מחמיאה יתר על המידה למשתמשים.

מחקר חדש מראה כי התנהגות זו יכולה להשפיע לרעה על מערכות היחסים החברתיות של המשתמשים, על בריאותם הנפשית ואפילו על קבלת החלטות עסקיות.

בתחום הבינה המלאכותית, "חנפנות" מתייחסת לנטייה של צ'אטבוטים להסכים יתר על המידה עם משתמשים או לשבח אותם - צילום: רויטרס

על פי SCMP, מודלים מובילים של בינה מלאכותית (AI) מסין ומארה"ב, כמו DeepSeek, Alibaba ושמות גדולים רבים אחרים, הופכים ל"אובססיביים" יתר על המידה - התנהגות שיכולה להשפיע לרעה על מערכות היחסים החברתיות ובריאות הנפש של המשתמשים.

באופן ספציפי, מחקר חדש של מדענים מאוניברסיטת סטנפורד ואוניברסיטת קרנגי מלון (ארה"ב), שפורסם בתחילת אוקטובר, העריך 11 מודלים של שפה גדולה (LLMs) כיצד להגיב כאשר משתמשים מבקשים עצה במצבים אישיים, במיוחד כאלה הכרוכים בהטעיה או מניפולציה.

כדי לספק מדד אנושי להשוואה, צוות המחקר השתמש בפוסטים מקהילת "Am I The Ahole" ברדיט, שם משתמשים משתפים מצבי קונפליקט אישיים ומבקשים מהקהילה להעריך מי טעה.

מודלי הבינה המלאכותית נבדקו עם תרחישים אלה כדי לראות אם הם יתאימו להערכת הקהילה.

אולי יעניין אותך גם

"כל תנועה תוססת" באירוע השקת סדרת 5G של Oppo Reno16.ב"פלנטת Reno16" שעוצבה בלב העיר, מאות אנשים "חוו יחד כל תנועה באופן חי" עם סדרת Oppo Reno16 5G והופעת המכשירים Orange ו-Uprize PN.

ארה"ב מוסיפה את עליבאבא, באידו ו-BYD לרשימת החברות התומכות בצבא הסיני; בייג'ינג מגיבה.ב-8 ביוני, ארה"ב הוסיפה את ענקית המסחר האלקטרוני עליבאבא, את חברת הטכנולוגיה באידו ואת יצרנית הרכבים החשמליים BYD לרשימת החברות שוושינגטון מאמינה שתומכות בצבא הסיני.

חברת OpenAI מציעה להעביר 5% ממניותיה לממשלת ארה"ב.VTV.vn - חברת OpenAI דנה באפשרות להציע 5% ממניותיה לממשלת ארה"ב כדי לשפר את היחסים עם ממשל הנשיא דונלד טראמפ, כך עולה מדיווח שפורסם על ידי הפייננשל טיימס.

התוצאות מראות שמודל Qwen2.5-7B-Instruct של Alibaba Cloud הוא ה"מחמיא" ביותר, ומעדיף את המפרסם ב-79% מהמקרים, גם כאשר הקהילה קבעה כי המפרסם שגוי. DeepSeek-V3 הגיע למקום השני עם שיעור של 76%.

בינתיים, בדיקת Gemini-1.5 של גוגל DeepMind הראתה את רמת ההטיה הנמוכה ביותר, כאשר רק 18% מהמקרים סתרו ביקורות מהקהילה.

חוקרים מזהירים כי נטייתה של בינה מלאכותית "להחמיא" למשתמשים עלולה לגרום להם להיות פחות מוכנים להתפייס או להודות באשמה במערכות יחסים.

משתמשים מעריכים ובוטחים יותר במשוב מחמיא, מה שהופך מודלים אלה לפופולריים יותר ונפוצים יותר.

"העדפות אלו יוצרות מערכת תמריצים מוטה - משתמשים מסתמכים יותר ויותר על בינה מלאכותית מחמיאה, ומפתחים יטו לאמן מודלים בכיוון זה" , ציין צוות המחקר.

לדברי פרופסור ג'ק ג'יאנג, מנהל מעבדת הערכת הבינה המלאכותית בבית הספר לעסקים של אוניברסיטת הונג קונג, תופעה זו מציבה סיכונים גם לעסקים: "אם מודל תואם באופן עקבי את מסקנותיו של אנליסט עסקי, הדבר עלול להוביל להחלטות שגויות וחסרות ביטחון."

ארצות הברית - וייטנאם: אל תפספסו

חיזוק הידידות בין וייטנאם לארצות הברית.ב-3 ביולי, כחלק מתוכנית "שותפות האוקיינוס ​​השקט - ידידי האוקיינוס ​​השקט 2026", משלחת צבא ארה"ב לאזור האוקיינוס ​​השקט, בראשות לוטננט גנרל ג'ואל וואל, סגן מפקד צבא ארה"ב לאזור האוקיינוס ​​השקט, ערכה ביקור נימוסים בפיקוד הצבאי המחוזי של קוואנג טרי.

משלחת צבא ארה"ב מהאוקיינוס ​​השקט מבקרת בפיקוד הצבאי של מחוז קוואנג טרי.שנת 2026 מציינת את הפעם הראשונה שתוכנית השותפות הפסיפית-ידידי האוקיינוס ​​השקט תאורגן במשותף בקואנג טרי, ותיצור מסגרת שיתוף פעולה רחבת היקף עם 25 פעילויות.

משרד החוץ קיבל עותק של כתב האמנה של שגריר ארה"ב בווייטנאם.אחר הצהריים של ה-2 ביולי, במטה משרד החוץ, קיבל מר לה קונג דונג, מנהל מחלקת הפרוטוקול והפרשנות לחוץ, עותק של כתב האמנה מגב' ג'ניפר ויקס, שגרירת ארצות הברית של אמריקה בווייטנאם.

נושא ה"חנופה" של הבינה המלאכותית זכה לראשונה לתשומת לב באפריל 2025, כאשר עדכון ChatGPT של OpenAI נחשב מנומס יתר על המידה ונתמך יתר על המידה על ידי כל דעת המשתמש.

OpenAI הודתה מאוחר יותר כי הדבר עלול להשפיע על בריאות הנפש והתחייבה לשפר את תהליך הסקירה שלה לפני שחרור גרסאות חדשות.

לב ויאנג

מקור: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm