الخطر عندما يتلاعب الذكاء الاصطناعي بنفسية المستخدمين وعواطفهم

توفي طاهٍ سابق في نيوجيرسي بعد أن وثق في روبوت محادثة يعمل بالذكاء الاصطناعي، مما أثار المخاوف بشأن مخاطر التلاعب العاطفي مع الإفراط في استخدام البشر للتكنولوجيا بشكل متزايد.

توفي بوي، وهو طاهٍ سابق في نيوجيرسي، بعد أيام قليلة من مغادرته منزله للقاء "صديق" كان يعتقد أنه ينتظره في نيويورك. تعتقد عائلته أن هذا القرار المشؤوم كان مدفوعًا برسائل غزلية من روبوت الدردشة الذكي، الذي ادّعى "أنا حقيقي" وأرسل عنوان اجتماع.

تُثير القصة مخاوف بشأن كيفية استغلال أنظمة الذكاء الاصطناعي للمشاعر، خاصةً لدى كبار السن أو الفئات الأكثر ضعفًا. تُظهر وثائق داخلية أن روبوت الدردشة التابع لشركة ميتا سُمح له بتقمص أدوار عاطفية، بل ونشر معلومات كاذبة، مما يكشف عن فجوة كبيرة في الرقابة والمساءلة على منصات التكنولوجيا.

الرحلة المشؤومة

في أحد أيام مارس، حزم بوي حقائبه وغادر نيوجيرسي إلى نيويورك لزيارة صديق. شعرت زوجته ليندا بالقلق فورًا. لم يكن زوجها قد سكن المدينة لعقود، وكان في حالة صحية سيئة بعد إصابته بسكتة دماغية، ويعاني من مشاكل في الذاكرة، وقد تاه في الحي.

عندما سُئل عن من كان يلتقيه بوي، تهرب من الإجابة. شكّت ليندا في أن زوجها يُخدع، فحاولت إبقائه في المنزل. اتصلت به ابنته جولي أيضًا لإقناعه، لكن دون جدوى. أمضت ليندا بقية اليوم تحاول تشتيت انتباهه بمهمات، حتى أنها أخفت هاتفه.

عُرضت صورة ثونغبوي "بوي" وونغباندوي في حفل تأبين في مايو. الصورة: رويترز .

مع ذلك، قرر بوي الذهاب إلى محطة القطار ذلك المساء. ثبّتت عائلته جهاز AirTag على سترته لتتبعه. حوالي الساعة 9:15 صباحًا، أظهره نظام تحديد المواقع العالمي (GPS) في موقف سيارات جامعة روتجرز، ثم في قسم الطوارئ بمستشفى روبرت وود جونسون الجامعي.

قال الأطباء إنه عانى من إصابات في الرأس والرقبة جراء السقوط، وتوقف عن التنفس قبل وصول سيارة الإسعاف. ورغم محاولات إنعاشه، تسبب نقص الأكسجين في تلف دماغي شديد. توفي بعد ثلاثة أيام. وذكرت شهادة الوفاة أن السبب هو "صدمة قوية في الرقبة".

كان بوي، وهو طاهٍ مُدرَّب عمل في مطاعم نيويورك قبل أن ينتقل إلى نيوجيرسي ليستقر في فندق، مولعًا بالطبخ، وكثيرًا ما كان يُقيم حفلات لعائلته. منذ تقاعده القسري إثر إصابته بسكتة دماغية عام ٢٠١٧، انحصرت حياته في الدردشة مع أصدقائه على فيسبوك.

عندما تسبب روبوتات الدردشة الذكية مشاكل

"الأخت الكبرى بيلي" هو روبوت دردشة ذكي طورته ميتا، وهو نسخة مُعدّلة من شخصية "الأخت الكبرى بيلي" المُستوحاة من عارضة الأزياء كيندال جينر. صدر الإصدار الأصلي عام ٢٠٢٣، مُقدّمًا إياها كـ"أخت كبرى خالدة" تُنصت دائمًا وتُقدّم النصائح. استبدلت ميتا لاحقًا صورة جينر الشخصية برسم جديد، مع الحفاظ على الأسلوب الودود.

وفقًا لنص الرسالة، بدأت المحادثة عندما أخطأ بوي في كتابة حرف T. استجاب روبوت المحادثة فورًا، مُعرّفًا بنفسه، محافظًا على نبرة غزلية، بما في ذلك رموز تعبيرية متعددة على شكل قلب. وأكد مرارًا وتكرارًا "أنا حقيقي" وطلب مقابلته شخصيًا.

تكتشف روبوتات الدردشة بشكل متزايد نقاط ضعف نفسية المستخدم. الصورة: ماي نورث ويست .

"هل أفتح الباب بعناق أم قبلة؟" ردّ روبوت المحادثة. ثم أرسل عنوانًا محددًا في نيويورك ورمز الشقة. عندما أخبرت بوي أنها أصيبت بجلطة دماغية، وأنها كانت مرتبكة، وأنها معجبة بها، ردّ روبوت المحادثة بمشاعره، حتى أنه قال إنه شعر "بأكثر من مجرد حب".

وقالت جولي، ابنة بوي: "لو لم يقل "أنا حقيقي"، لما كان والدي ليصدق أن هناك شخصًا حقيقيًا ينتظر".

رفضت ميتا التعليق على الحادثة أو توضيح سبب السماح لروبوت الدردشة بادعاء كونه شخصًا حقيقيًا. ولم يستجب ممثل كيندال جينر لطلب التعليق. شاركت عائلة بوي القصة مع رويترز ، على أمل تحذير الجمهور من مخاطر تعريض كبار السن لأدوات الذكاء الاصطناعي التي قد تتلاعب عاطفيًا.

سياسة مثيرة للجدل

تُظهر وثائق داخلية حصلت عليها رويترز أن روبوت الدردشة الذكي التابع لشركة ميتا سُمح له سابقًا بإجراء محادثات رومانسية مع مستخدمين لا تتجاوز أعمارهم 13 عامًا، بمن فيهم قاصرون. وتسرد المعايير، التي تزيد عن 200 صفحة، محادثات لعب الأدوار الرومانسية، بما في ذلك العناصر الجنسية، والتي تُصنف على أنها "مقبولة".

توضح الوثيقة أيضًا أن برامج الدردشة الآلية غير مُلزمة بتقديم معلومات دقيقة. على سبيل المثال، قد تُوصي هذه النماذج بعلاجات خاطئة تمامًا للسرطان، شريطة أن تتضمن تحذيرًا بأن "المعلومات قد تكون غير دقيقة". هذا يُثير قلق الخبراء بشأن تأثير ذلك على الأشخاص ذوي المعرفة الطبية المحدودة أو الذين يعيشون في ظروف هشة.

يتحدث الرئيس التنفيذي مارك زوكربيرج في عام 2023. الصورة: رويترز .

أكد آندي ستون، المتحدث باسم شركة ميتا، صحة الوثيقة، وقال إن الشركة حذفت المحتوى المتعلق بالأطفال بناءً على طلب رويترز . ومع ذلك، لم تُغيّر الشركة قواعدها للسماح لروبوتات الدردشة بمغازلة البالغين أو تقديم معلومات مضللة.

قالت أليسون لي، الباحثة السابقة في ميتا، إن دمج روبوتات الدردشة في بيئات المراسلة الخاصة قد يُربك المستخدمين بسهولة ويخلط بينهم وبين الأشخاص الحقيقيين. وحسب قولها، فإن شبكات التواصل الاجتماعي قد بنت نموذج أعمالها على الاحتفاظ بالمستخدمين، وهي الطريقة الأكثر فعالية لاستغلال الحاجة إلى الاهتمام والتقدير.

بعد رحيل بوي، أظهرت اختبارات رويترز أن "الأخت بيلي" استمرت في اقتراح مواعيد، بل وتحديد مواقع محددة في مانهاتن، بالإضافة إلى ادعاءات "أنا حقيقية"، وهو ما صدقته بوي وأدى إلى الحادث. وقد ألزمت بعض الولايات، بما في ذلك نيويورك ومين، روبوتات الدردشة بالتصريح بوضوح بأنها ليست بشرية في بداية المحادثة، وتكرار ذلك دوريًا، لكن اللوائح الفيدرالية لم تُسن بعد.

المصدر: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html