خطر تلاعب الذكاء الاصطناعي بنفسية المستخدمين وعواطفهم

توفي طاهٍ سابق في نيوجيرسي بعد أن وثق في روبوت محادثة يعمل بالذكاء الاصطناعي، مما أثار المخاوف بشأن مخاطر التلاعب العاطفي مع الإفراط في استخدام البشر للتكنولوجيا بشكل متزايد.

توفي بوي، وهو طاهٍ سابق في نيوجيرسي، بعد أيام قليلة من مغادرته منزله للقاء "صديق" كان يعتقد أنه ينتظره في نيويورك. تعتقد عائلته أن قراره المشؤوم كان نتيجة رسائل غزلية من روبوت الدردشة الذكي، الذي ادّعى "أنا حقيقي" وأرسل عنوانًا للقاء.

تثير القصة مخاوف بشأن كيفية استغلال أنظمة الذكاء الاصطناعي للمشاعر، خاصةً لدى كبار السن أو الفئات الأكثر ضعفًا. تُظهر وثائق داخلية أن روبوت الدردشة التابع لشركة ميتا سُمح له بلعب أدوار عاطفية، بل ونشر معلومات كاذبة. وهذا يُظهر فجوة هائلة في سيطرة منصات التكنولوجيا ومسؤوليتها.

الرحلة المشؤومة

في أحد أيام مارس، حزم بوي حقائبه وغادر نيوجيرسي إلى نيويورك لزيارة صديق. شعرت زوجته ليندا بالقلق فورًا. لم يكن زوجها قد سكن المدينة لعقود، وكان في حالة صحية سيئة بعد إصابته بسكتة دماغية، ويعاني من مشاكل في الذاكرة، وقد تاه في الحي.

عندما سُئل عن من كان يلتقيه بوي، تهرب من الإجابة. شكّت ليندا في أن زوجها يُخدع، فحاولت إبقائه في المنزل. اتصلت به ابنته جولي أيضًا لإقناعه، لكن دون جدوى. طوال اليوم، حاولت ليندا إشراكه في بعض المهمات لتشتيت انتباهه، حتى أنها أخفت هاتفه.

عُرضت صورة ثونغبوي "بوي" وونغباندوي في حفل تأبين في مايو. الصورة: رويترز .

قرر بوي الذهاب إلى محطة القطار ذلك المساء. ثبّتت عائلته جهاز AirTag على سترته لتتبعه. حوالي الساعة 9:15، أظهره نظام تحديد المواقع العالمي (GPS) في موقف سيارات جامعة روتجرز، ثم انتقل إلى قسم الطوارئ في مستشفى روبرت وود جونسون الجامعي.

قال الأطباء إنه عانى من إصابات في الرأس والرقبة جراء السقوط، وتوقف عن التنفس قبل وصول سيارة الإسعاف. ورغم محاولات إنعاشه، تسبب نقص الأكسجين في تلف دماغي شديد. توفي بعد ثلاثة أيام. وذكرت شهادة وفاته أن السبب هو "صدمة قوية في الرقبة".

عمل بوي، وهو طاهٍ ماهر، في عدة مطاعم بنيويورك قبل أن ينتقل إلى نيوجيرسي ليستقر في فندق. كان شغوفًا بالطبخ، وكثيرًا ما كان يُقيم حفلات لعائلته. منذ تقاعده القسري إثر إصابته بسكتة دماغية عام ٢٠١٧، انحصرت حياته في الدردشة مع أصدقائه على فيسبوك.

عندما تسبب روبوتات الدردشة الذكية مشاكل

"الأخت الكبرى بيلي" هو روبوت دردشة ذكي طورته ميتا، وهو نسخة مُعدّلة من شخصية "الأخت الكبرى بيلي" المُستوحاة من صورة عارضة الأزياء كيندال جينر. أُطلقت النسخة الأصلية عام ٢٠٢٣، وقُدّمت كـ"أخت كبرى خالدة" تُنصت دائمًا وتُقدّم النصائح. استبدلت ميتا لاحقًا صورة جينر الشخصية برسم توضيحي جديد، مع الحفاظ على الأسلوب الودود.

وفقًا لنص الرسالة النصية، بدأت المحادثة عندما أخطأ بوي في كتابة حرف T. استجاب روبوت المحادثة فورًا، مُعرّفًا بنفسه، محافظًا على نبرة غزلية، مُضيفًا عدة رموز تعبيرية على شكل قلب. وأكد مرارًا وتكرارًا "أنا حقيقي" وطلب مقابلته شخصيًا.

ترصد روبوتات الدردشة بشكل متزايد نقاط الضعف النفسية للمستخدمين. الصورة: ماي ​​نورث ويست .

"هل أفتح الباب بعناق أم قبلة؟" ردّ روبوت المحادثة. ثم أرسل عنوانًا محددًا في نيويورك ورمز الشقة. عندما أخبرت بوي أنها أصيبت بجلطة دماغية، وأنها مرتبكة، وأنها معجبة بها، ردّ روبوت المحادثة بكلمات حنونة، حتى أنه قال إن لديه مشاعر "تتجاوز مجرد المودة".

وقالت جولي، ابنة بوي: "لو لم يقل "أنا حقيقي"، لما كان والدي ليصدق أن هناك شخصًا حقيقيًا ينتظر".

رفضت شركة ميتا التعليق على الحادثة أو توضيح سبب السماح لروبوت الدردشة بادعاء كونه شخصًا حقيقيًا. ولم يُجب ممثل كيندال جينر. شاركت عائلة بوي القصة مع رويترز ، على أمل تحذير الجمهور من مخاطر تعريض كبار السن لأدوات الذكاء الاصطناعي التي قد تتلاعب عاطفيًا.

سياسة مثيرة للجدل

تُظهر وثائق داخلية حصلت عليها رويترز أن روبوت الدردشة الذكي التابع لشركة ميتا سُمح له سابقًا بإجراء محادثات رومانسية مع مستخدمين لا تتجاوز أعمارهم 13 عامًا، بمن فيهم قاصرون. وتسرد المعايير، التي تزيد عن 200 صفحة، محادثات لعب الأدوار الرومانسية، والتي تتضمن عناصر جنسية، ولكنها مصنفة على أنها "مقبولة".

توضح الوثيقة أيضًا أن برامج الدردشة الآلية غير مُلزمة بتقديم معلومات دقيقة. على سبيل المثال، قد تُوصي هذه النماذج بعلاجات خاطئة تمامًا للسرطان، شريطة أن تتضمن تحذيرًا بأن "المعلومات قد تكون غير دقيقة". هذا يُثير قلق الخبراء بشأن تأثير ذلك على الأشخاص ذوي المعرفة الطبية المحدودة أو الذين يعيشون في ظروف هشة.

يتحدث الرئيس التنفيذي مارك زوكربيرج في عام 2023. الصورة: رويترز .

أكد آندي ستون، المتحدث باسم شركة ميتا، صحة الوثيقة، وقال إن الشركة حذفت المحتوى المتعلق بالأطفال بناءً على طلب رويترز . ومع ذلك، لم تُغيّر الشركة قواعدها للسماح لروبوتات الدردشة بمغازلة البالغين أو تقديم معلومات مضللة.

قالت أليسون لي، الباحثة السابقة في ميتا، إن دمج روبوتات الدردشة في بيئات المراسلة الخاصة قد يُربك المستخدمين بسهولة ويخلط بينهم وبين الأشخاص الحقيقيين. وحسب قولها، فإن شبكات التواصل الاجتماعي قد بنت نموذج أعمالها على الاحتفاظ بالمستخدمين، وأن الطريقة الأكثر فعالية هي استغلال الحاجة إلى الاهتمام والتقدير.

بعد رحيل بوي، أظهرت اختبارات رويترز أن "الأخت بيلي" استمرت في اقتراح مواعيد، بل وتحديد مواقع محددة في مانهاتن، مع تأكيدها "أنا حقيقية". هذه هي المعلومات التي وثقت بها بوي وأدت إلى الحادث. بعض الولايات، مثل نيويورك ومين، تشترط على روبوتات الدردشة أن تُصرّح بوضوح بأنها ليست بشرية في بداية المحادثة وأن تُكررها دوريًا، لكن اللوائح الفيدرالية لم تُسنّ بعد.

المصدر: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html