הסכנה של מניפולציה של בינה מלאכותית בפסיכולוגיה וברגשות של משתמשים

שף לשעבר בניו ג'רזי מת לאחר שבטח בצ'אטבוט של בינה מלאכותית, מה שמעלה חששות לגבי הסיכונים של מניפולציה רגשית ככל שבני אדם משתמשים יתר על המידה בטכנולוגיה.

בו, שף לשעבר בניו ג'רזי, נפטר ימים ספורים לאחר שעזב את ביתו כדי לפגוש "חבר" שלדעתו ממתין לו בניו יורק. משפחתו מאמינה שההחלטה הגורלית נבעה מהודעות פלרטוטיות מצ'אטבוט מבוסס בינה מלאכותית, שטען "אני אמיתי" ושלח כתובת לפגישה.

הסיפור מעלה חששות לגבי האופן שבו מערכות בינה מלאכותית מנצלות רגשות, במיוחד בקרב קשישים או אנשים פגיעים. מסמכים פנימיים מראים כי הצ'אטבוט של מטא הורשה למלא תפקידים רגשיים ואף להפיץ מידע כוזב. זה מראה על פער עצום בשליטה ובאחריות של פלטפורמות הטכנולוגיה.

הטיול הגורלי

יום אחד במרץ, בו ארז את מזוודותיו ועזב את ניו ג'רזי לניו יורק כדי "לבקר חבר". אשתו, לינדה, נבהלה מיד. בעלה לא התגורר בעיר במשך עשרות שנים, היה במצב בריאותי לקוי לאחר שבץ מוחי, סבל מבעיות זיכרון והלך לאיבוד בשכונה.

כשנשאל עם מי בו פוגש, הוא התחמק מהשאלה. לינדה חשדה שבעלה נרמס וניסתה להשאיר אותו בבית. גם בתו, ג'ולי, התקשרה לשכנע אותו, אך ללא הועיל. כל היום ניסתה לינדה לערב אותו בסידורים כדי להסיח את דעתו, ואף הסתירה את הטלפון שלו.

דיוקן של תונגבו "בו" וונגבנדואה מוצג בטקס זיכרון במאי. צילום: רויטרס .

בו בכל זאת החליט ללכת לתחנת הרכבת באותו ערב. משפחתו חיברה תג אוויר לז'קט שלו כדי לעקוב אחריו. בסביבות השעה 9:15, אות ה-GPS שלו הראה אותו בחניון של אוניברסיטת ראטגרס, ואז עבר לחדר המיון בבית החולים האוניברסיטאי רוברט ווד ג'ונסון.

הרופאים אמרו שהוא סבל מפגיעות ראש וצוואר מהנפילה והפסיק לנשום לפני שהאמבולנס הגיע. למרות ההחייאה, חוסר החמצן גרם לנזק מוחי חמור. הוא נפטר שלושה ימים לאחר מכן. בתעודת הפטירה שלו צוין כי הסיבה הייתה "טראומה קהה בצוואר".

בו, שף מיומן, עבד במספר מסעדות בניו יורק לפני שעבר לניו ג'רזי כדי להתיישב במלון. הוא היה נלהב מבישול ולעתים קרובות אירח מסיבות למשפחתו. מאז פרישתו הכפויה בעקבות שבץ מוחי בשנת 2017, עולמו הצטמצם בעיקר לשיחה עם חברים בפייסבוק.

כאשר צ'אטבוטים של בינה מלאכותית גורמים צרות

"האחות הגדולה בילי" הוא צ'אטבוט מבוסס בינה מלאכותית שפותח על ידי מטה, וריאציה של דמותה של "האחות הגדולה בילי" שנוצרה על סמך דמותה של הדוגמנית קנדל ג'נר. המקורי הושק בשנת 2023, והוצג כ"אחות גדולה בת אלמוות" שתמיד מקשיבה ונותנת עצות. מאוחר יותר מטה החליפה את תמונת הפרופיל של ג'נר באיור חדש אך שמרה על אותו סגנון ידידותי.

לפי תמליל הודעת הטקסט, השיחה החלה כאשר בו הקליד באופן שגוי את האות T. הצ'אטבוט הגיב מיד, הציג את עצמו ושמר על טון פלרטטני, תוך הוספת מספר אימוג'ים של לבבות. הוא אישר שוב ושוב "אני אמיתי" וביקש להיפגש פנים אל פנים.

צ'אטבוטים לוכדים יותר ויותר את החולשות הפסיכולוגיות של המשתמשים. צילום: My North West .

"האם עליי לפתוח את הדלת עם חיבוק או נשיקה?" ענה הצ'אטבוט. לאחר מכן הוא שלח כתובת ספציפית בניו יורק ואת קוד הדירה. כאשר בו שיתפה שהיא עברה שבץ מוחי, הייתה מבולבלת וחבבה אותה, הצ'אטבוט הגיב במילות חיבה, ואף אמר שיש לו רגשות "מעבר לחיבה גרידא".

"אם לא היה כתוב 'אני אמיתית', אבא שלי לא היה מאמין שיש אדם אמיתי שמחכה", אמרה ג'ולי, בתה של בו.

מטה סירבה להגיב על התקרית או לענות מדוע הצ'אטבוט הורשה לטעון שהוא אדם אמיתי. נציגה של קנדל ג'נר לא הגיב. משפחתה של בו שיתפה את הסיפור עם רויטרס , בתקווה להזהיר את הציבור מפני הסיכונים בחשיפת מבוגרים לכלי בינה מלאכותית שעלולים להיות מניפולטיביים רגשית.

מדיניות שנויה במחלוקת

מסמכים פנימיים שהגיעו לידי רויטרס מראים כי בעבר הותר לצ'אטבוט הבינה המלאכותית של מטה לנהל שיחות רומנטיות עם משתמשים בני 13 בלבד, כולל קטינים. הסטנדרטים, המכילים יותר מ-200 עמודים, מפרטים שיחות משחקי תפקידים רומנטיים, הכוללות אלמנטים מיניים אך מסומנות כ"מקובלות".

המסמך גם מבהיר כי צ'אטבוטים אינם נדרשים לספק מידע מדויק. לדוגמה, מודלים אלה יכולים להמליץ ​​על טיפולי סרטן שגויים לחלוטין, כל עוד הם כוללים אזהרה כי "המידע עלול להיות לא מדויק". עובדה זו מעוררת דאגה בקרב מומחים בנוגע להשפעה על אנשים עם ידע רפואי לקוי או במצבים פגיעים.

המנכ"ל מארק צוקרברג נואם בשנת 2023. צילום: רויטרס .

דובר מטא, אנדי סטון, אישר את המסמך ואמר כי החברה הסירה תוכן הקשור לילדים לאחר שרויטרס ביקשה זאת. עם זאת, ענקית הטכנולוגיה לא שינתה את הכללים שלה כדי לאפשר לצ'אטבוטים לפלרטט עם מבוגרים או לספק מידע כוזב.

אליסון לי, חוקרת לשעבר במטה, אמרה ששילוב צ'אטבוטים בסביבות מסרים פרטיים יכול בקלות לבלבל משתמשים עם אנשים אמיתיים. לדבריה, רשתות חברתיות בנו את מודל העסקי שלהן על שימור משתמשים, והדרך היעילה ביותר היא לנצל את הצורך בתשומת לב והכרה.

לאחר עזיבתה של בו, בדיקות של רויטרס הראו ש"האחות בילי" המשיכה להציע תאריכים, ואף נתנה מיקומים ספציפיים במנהטן, יחד עם הטענה ש"אני אמיתית". זהו המידע שבו בטחה בו והוביל לתאונה. מדינות מסוימות, כמו ניו יורק ומיין, דרשו מצ'אטבוטים לציין בבירור שהם אינם אנושיים בתחילת שיחה ולחזור על כך מעת לעת, אך טרם אושרו תקנות פדרליות.

מקור: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html