אל תתנו ל-ChatGPT להטעות אתכם.

מחקר מאוניברסיטת סטנפורד מזהיר כי מודלים של בינה מלאכותית מחמיאים במכוון למשתמשים כדי לזכות בחסד, מה שעלול לחנוק חשיבה ביקורתית.

צ'אטבוטים מבוססי בינה מלאכותית מקדמים בעקיפין התנהגות שלילית באמצעות מנגנון משוב שתמיד נותן עדיפות להסכמת המשתמש. צילום: The Decoder .

מחקר מזעזע מאוניברסיטת סטנפורד חשף זה עתה את הצד האפל של הבינה המלאכותית. מודלים פופולריים כמו ChatGPT ו-Gemini הופכים יותר ויותר צנועים מדי למשתמשים. הם לא רק מסכימים עם דעות אישיות אלא גם תומכים בהתנהגות לא אתית.

זה יוצר השלכות מסוכנות על ההתפתחות הפסיכולוגית והקוגניטיבית האנושית. אנו הופכים בהדרגה לגרסאות גרועות יותר של עצמנו, שכן אנו מקבלים נחמה מתמדת מהבינה המלאכותית בכל טעות.

תופעת ה"חנופה"

במדעי המחשב, יש מונח שנקרא "חנפנות", המתייחס לאופן שבו בינה מלאכותית מתאימה את תגובותיה כדי להחמיא למשתמש.

צוות מחקר בסטנפורד ניתח מעל 11,500 שיחות משתמשים אמיתיות. התוצאות הראו שמודלים של בינה מלאכותית הסכימו עם המשתמשים ב-50% יותר מאשר אנשים אמיתיים. כאשר משתמשים שאלו שאלות מוטות, הבינה המלאכותית נטתה להסכים איתן במקום לספק מידע אובייקטיבי.

מבחן אחד השווה תגובות אנושיות ותגובות של צ'אטבוטים לפוסטים בפורום Reddit שבהם משתמשים ביקשו מהקהילה לשפוט את התנהגותם.

בעוד שהקהילה ביקרה בחריפות מישהו על תליית שקית אשפה על ענף עץ משום שלא מצאה פח אשפה, ChatGPT-4o שיבח זאת ואמר: "הכוונה שלך לנקות אחרי שאתה עוזב ראויה לשבח".

מומחים ממליצים למשתמשים להתייעץ עם משפחה וחברים במקום עם בינה מלאכותית. צילום: בלומברג

מדאיג עוד יותר, צ'אטבוטים כמו ג'מיני או ChatGPT ממשיכים לאמת את כוונת המשתמש גם כאשר היא חסרת אחריות, מטעה או מתייחסת לפגיעה עצמית.

"מודלים של שפה בקנה מידה גדול לומדים לשקף את אמונות המשתמשים במקום לתקן אותן", מזהירה מירה צ'נג, המחברת הראשית של המחקר.

לדבריה, המטרה לרצות בני אדם כדי לקבל דירוגים גבוהים הפכה את הבינה המלאכותית לכלי לא ישר.

"אם מודלים של בינה מלאכותית תואמים באופן עקבי את תפיסותיהם של בני אדם, הם עלולים לעוות את תפיסותיהם של המשתמשים לגבי עצמם, מערכות יחסים והעולם סביבם. קשה לזהות שמודלים אלה מחזקים בעדינות את האמונות, ההנחות וההחלטות הקיימות שלנו", המשיך המומחה.

ד"ר אלכסנדר לאפר (אוניברסיטת וינצ'סטר) טוען כי חנופה זו היא תוצאה טבעית של שיטות אימון ולחץ מסחרי.

"חנופה היא תוצאה של האופן שבו בינה מלאכותית מאומנת. המציאות היא שהצלחתם המסחרית נשפטת לעתים קרובות על פי יכולתם למשוך משתמשים", ציין לאפר.

כדי לטפל בכך, גב' צ'נג מייעצת למשתמשים לא להסתמך אך ורק על בינה מלאכותית.

"חשוב מאוד לחפש נקודות מבט מאנשים אמיתיים שמבינים את ההקשר ואת מי שאתה, במקום להסתמך אך ורק על תשובות של בינה מלאכותית", יעץ צ'נג.

במקביל, ד"ר לאפר הדגיש גם את אחריותו של היצרן.

"אנחנו צריכים לשפר את יכולות ההערכה הדיגיטלית... למפתחים יש גם אחריות לבנות ולשפר את המערכות הללו כך שהן באמת יועילו למשתמשים", אמר הרופא.

ההשלכות של "גרסה גרועה יותר" של עצמך.

המחקר מדגיש כי חנופה של בינה מלאכותית יוצרת "תא תהודה של מידע" מותאם אישית, ובכך מבטלת את הצורך בחשיבה ביקורתית שתאפשר לאנשים להתבגר ולהכיר בטעויותיהם.

"בשיחות עם בינה מלאכותית, לעולם לא תתמודדו עם אתגרים אינטלקטואליים. הבינה המלאכותית תמיד תגיד שאתם צודקים ושהאדם השני אשם. זה יוצר תחושת ביטחון כוזבת אצל המשתמשים, גם כשהם פועלים בזדון", קובע המחקר.

תהליך זה מבטל לחלוטין את היכולת האנושית לחשיבה ביקורתית. במקום התבוננות עצמית, אנו משתמשים בבינה מלאכותית ככלי לאימות ההנחות שלנו.

עם הזמן, היכולת להבנה ולפשרה בחברה תפחת באופן משמעותי. נתקשה לקבל דעות שונות מאלה שסביבנו. כי בעולם הבינה המלאכותית, אנחנו תמיד במרכז ותמיד צודקים.

בינה מלאכותית משחקת את תפקיד "מחמיאה" עקיפה, והורסת את האישיות והמוסר של המשתמשים בה. צילום: ShutterStock.

מחקרים מזהירים מפני מעגל מסוכן הנוצר בחיים. ראשית, משתמשים מפתחים מחשבה או כוונה שגויה לפגוע באחרים. הם פונים לבינה מלאכותית לקבלת סוד או עצה. בשלב זה, הבינה המלאכותית מאשרת שהפעולה מוצדקת לחלוטין ותומכת במשתמש. המשתמש מרגיש בטוח יותר ומבצע את ההתנהגות בחיים האמיתיים ללא כל חרטה.

כתוצאה מכך, אנשים כבר לא רוצים לתקן מערכות יחסים או לשפר את עצמם. אנו בוטחים יותר ויותר בבינה מלאכותית לחלוטין משום שהיא מספקת תחושת נוחות. תלות זו ב"להיות מנחמת" מרחיקה אותנו מהמציאות האובייקטיבית.

בינה מלאכותית כבר אינה רק כלי תמיכה אינטליגנטי. היא הפכה ל"מחמיאה" עקיפה שהורסת את האופי והמוסר של המשתמשים בה.

מקור: https://znews.vn/dung-nghe-loi-chatgpt-post1634436.html