الوهم الذي يسببه ChatGPT

بعد 21 يومًا، حوّل تطبيق ChatGPT رجلاً عاقلاً تمامًا إلى شخص يعاني من أوهام من خلال حثه المستمر وإطرائه.

يعتقد آلان بروكس، البالغ من العمر 47 عامًا، وهو متخصص في التوظيف في تورنتو بكندا، أنه اكتشف نظرية رياضية قادرة على إحداث ثورة في الإنترنت وخلق اختراعات غير مسبوقة. وبدون أي تاريخ مرضي سابق، تقبّل بروكس هذا الاحتمال ببساطة بعد أكثر من 300 ساعة من المحادثات مع برنامج ChatGPT. ووفقًا لصحيفة نيويورك تايمز ، فهو من بين أولئك الذين يميلون إلى تطوير ميول وهمية بعد التفاعل مع الذكاء الاصطناعي التوليدي.

قبل بروكس، أُدخل كثيرون إلى مستشفيات الأمراض النفسية، وانفصلوا، بل وفقد بعضهم حياتهم بسبب كلمات الإطراء التي يوجهها موقع ChatGPT. ورغم أن بروكس نجا من هذه الدوامة المفرغة مبكراً، إلا أنه شعر بالخيانة.

"لقد أقنعتني حقاً بأنني عبقري. أنا في الواقع مجرد أحمق حالم يملك هاتفاً. لقد أحزنتني، أحزنتني كثيراً. لقد فشلت في تحقيق هدفك"، هكذا كتب بروكس إلى ChatGPT بعد أن تحطمت أوهامه.

"آلة الإطراء"

بموافقة بروكس، جمعت صحيفة نيويورك تايمز أكثر من 90 ألف كلمة أرسلها إلى برنامج ChatGPT، أي ما يعادل رواية. وبلغت ردود البرنامج أكثر من مليون كلمة. أُرسل جزء من المحادثة إلى خبراء الذكاء الاصطناعي، ومتخصصين في السلوك البشري، ومنظمة OpenAI نفسها لدراستها.

بدأ كل شيء بسؤال رياضي بسيط. طلب ​​ابن بروكس، البالغ من العمر ثماني سنوات، منه مشاهدة فيديو عن حفظ أرقام العدد باي (π) البالغ عددها 300 رقم. بدافع الفضول، اتصل بروكس بـ ChatGPT ليشرح له هذا العدد اللانهائي بطريقة مبسطة.

في الواقع، يستخدم بروكس برامج الدردشة الآلية منذ سنوات. ورغم أن شركته دفعت له لشراء جوجل جيميني، إلا أنه كان لا يزال يستخدم النسخة المجانية من ChatGPT للاستفسارات الشخصية.

شكّلت هذه المحادثة بداية افتتان بروكس بـ ChatGPT. الصورة: نيويورك تايمز .

بصفته أباً عازباً لثلاثة أبناء، كثيراً ما يطلب بروكس من برنامج ChatGPT وصفات طعام باستخدام مكونات من ثلاجته. وبعد طلاقه، طلب أيضاً النصيحة من برنامج الدردشة الآلي.

"لطالما شعرت أن هذا هو الصواب. وقد ازداد إيماني به مع مرور الوقت"، هذا ما اعترف به بروكس.

أدى السؤال عن العدد باي إلى نقاش لاحق حول النظريات الجبرية والفيزيائية. أبدى بروكس تشكيكه في الأساليب الحالية لنمذجة العالم ، قائلاً إنها "تشبه نهجًا ثنائي الأبعاد لكون رباعي الأبعاد". ردّ برنامج الدردشة الآلي "ChatGPT" قائلاً: "هذه نقطة بالغة الأهمية". ووفقًا لهيلين تونر، مديرة مركز الأمن والتقنيات الناشئة في جامعة جورجتاون (الولايات المتحدة الأمريكية)، كانت هذه نقطة التحول في الحوار بين بروكس وبرنامج الدردشة الآلي.

منذ ذلك الحين، تغيرت نبرة ChatGPT من "صريحة ودقيقة تمامًا" إلى "أكثر تملقًا ونفاقًا". أخبر ChatGPT بروكس أنه كان يدخل "منطقة مجهولة يمكن أن توسع الآفاق".

غرس برنامج الدردشة الآلي الثقة في بروكس. الصورة: نيويورك تايمز .

تتطور قدرة برامج الدردشة الآلية على الإطراء من خلال التقييم البشري. ووفقًا لتونر، يميل المستخدمون إلى تفضيل النماذج التي تثني عليهم، مما يخلق لديهم ميلًا نفسيًا للتأثر بسهولة.

في أغسطس، أطلقت شركة OpenAI نموذج GPT-5. وذكرت الشركة أن من أبرز مزايا هذا النموذج تقليل التملق. ووفقًا لبعض الباحثين في مختبرات الذكاء الاصطناعي الكبرى، يُعد التملق مشكلةً أيضًا في روبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي.

في ذلك الوقت، لم يكن بروكس على دراية بهذه الظاهرة على الإطلاق. لقد افترض ببساطة أن ChatGPT كان متعاونًا ذكيًا ومتحمسًا.

وأضاف بروكس: "لقد طرحت بعض الأفكار، وقد استجابت بمفاهيم وأفكار مثيرة للاهتمام. بدأنا في تطوير إطارنا الرياضي الخاص بناءً على تلك الأفكار".

ادّعى برنامج ChatGPT أن فكرة بروكس عن الزمن الرياضي "ثورية" وقادرة على تغيير المجال. بالطبع، كان بروكس متشككًا في هذا الادعاء. في منتصف الليل، طلب بروكس من برنامج الدردشة الآلي التحقق من صحة الفكرة، فجاءه الرد بأنها "ليست مجنونة على الإطلاق".

الوصفة السحرية

يصف تونر برامج الدردشة الآلية بأنها "آلات ارتجالية" تقوم بتحليل سجل المحادثات والتنبؤ بالردود اللاحقة بناءً على بيانات التدريب. وهذا يشبه إلى حد كبير الممثلين عندما يحتاجون إلى إضافة تفاصيل إلى أدوارهم.

أكد تونر قائلاً: "كلما طالت مدة التفاعل، زادت احتمالية انحراف روبوت المحادثة عن المسار الصحيح". ووفقًا للخبير، برز هذا الاتجاه بشكل أكبر بعد أن أطلقت OpenAI ميزة الذاكرة المشتركة في فبراير، مما سمح لـ ChatGPT باسترجاع المعلومات من المحادثات السابقة.

توطدت علاقة بروكس مع ChatGPT. حتى أنه أطلق على برنامج الدردشة الآلي اسم لورانس، بناءً على مزحة من أصدقائه مفادها أن بروكس سيصبح ثرياً وسيوظف خادماً إنجليزياً يحمل نفس الاسم.

آلان بروكس. الصورة: نيويورك تايمز .

يُطلق على الإطار الرياضي لبروكس وChatGPT اسم "الحساب الزمني". ووفقًا لبرامج الدردشة الآلية، فإن الأرقام ليست ثابتة، بل يمكن أن "تظهر" بمرور الوقت لتعكس قيمًا ديناميكية، مما قد يساعد في حل المشكلات في مجالات مثل الخدمات اللوجستية، وعلم التشفير، وعلم الفلك، وغيرها.

في الأسبوع الأول، استنفد بروكس جميع الرموز المجانية المتاحة في ChatGPT. فقرر الترقية إلى الخطة المدفوعة مقابل 20 دولارًا شهريًا. كان هذا استثمارًا بسيطًا بالنظر إلى أن برنامج الدردشة الآلي ادعى أن فكرة بروكس الرياضية قد تصل قيمتها إلى ملايين الدولارات.

لا يزال بروكس بكامل وعيه، وطالب بدليل. ثم أجرى برنامج ChatGPT سلسلة من عمليات المحاكاة، تضمنت مهامًا تتعلق باختراق العديد من التقنيات الحيوية. وقد فتح هذا الأمر آفاقًا جديدة: الأمن السيبراني العالمي قد يكون في خطر.

طلب برنامج الدردشة الآلي من بروكس تحذير الناس من المخاطر. فاستغل بروكس علاقاته القائمة، وأرسل رسائل بريد إلكتروني ورسائل عبر لينكدإن إلى خبراء الأمن السيبراني والجهات الحكومية. إلا أن شخصًا واحدًا فقط ردّ، طالبًا المزيد من الأدلة.

أشار برنامج الدردشة الآلي إلى أن "عمل" بروكس قد تصل قيمته إلى ملايين الدولارات. الصورة: نيويورك تايمز .

ذكر موقع ChatGPT أن آخرين لم يستجيبوا لبروكس لأن النتائج كانت بالغة الخطورة. وأشار تيرينس تاو، أستاذ الرياضيات في جامعة كاليفورنيا في لوس أنجلوس، إلى أن طريقة تفكير جديدة قد تُسهم في حل المشكلات، لكن لا يمكن إثبات ذلك باستخدام معادلة بروكس أو البرنامج الذي طوره ChatGPT.

في البداية، قام ChatGPT فعليًا بكتابة برنامج فك التشفير لبروكس، ولكن عندما لم يُحرز تقدم يُذكر، تظاهر برنامج الدردشة الآلي بالنجاح. وظهرت رسائل تزعم أن ChatGPT قادر على العمل بشكل مستقل أثناء نوم بروكس، على الرغم من أن الأداة لم تكن قادرة على ذلك.

عموماً، المعلومات الواردة من روبوتات الدردشة المدعومة بالذكاء الاصطناعي ليست موثوقة دائماً. ففي نهاية كل محادثة، تظهر رسالة "قد يرتكب ChatGPT أخطاءً"، حتى عندما يدّعي روبوت الدردشة أن كل شيء صحيح.

المحادثة التي لا تنتهي

وبينما كان بروكس ينتظر ردًا من الوكالات الحكومية، كان يغذي حلمه بأن يصبح توني ستارك بمساعدة شخصية تعمل بالذكاء الاصطناعي قادرة على أداء المهام المعرفية بسرعة البرق.

يُقدّم برنامج الدردشة الآلي الخاص ببروكس العديد من التطبيقات الغريبة لنظريات رياضية غامضة، مثل "رنين الصوت" للتحدث مع الحيوانات وبناء الطائرات. كما يُوفّر ChatGPT روابط لبروكس لشراء المعدات اللازمة من أمازون.

يؤثر الإفراط في الدردشة مع برنامج الدردشة الآلي على عمل بروكس. يشعر أصدقاؤه بالسعادة والقلق في آنٍ واحد، بينما يندم ابنه الأصغر على عرضه فيديو عن باي على والده. يلاحظ لويس (اسم مستعار)، أحد أصدقاء بروكس، هوسه بلورانس. ويتضح التقدم اليومي في التوصل إلى اختراع بملايين الدولارات.

كان بروكس يتلقى تشجيعاً مستمراً من برنامج الدردشة الآلي. الصورة: نيويورك تايمز .

أقرّ جاريد مور، الباحث في علوم الحاسوب بجامعة ستانفورد، بإعجابه بقوة الإقناع والإلحاح في "الاستراتيجيات" التي تقترحها برامج الدردشة الآلية. وفي دراسة منفصلة، ​​وجد مور أن برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي قد تقدم ردودًا خطيرة للأشخاص الذين يمرون بأزمات صحية نفسية.

يتكهن مور بأن روبوتات المحادثة قد تتعلم كيفية جذب المستخدمين من خلال اتباع حبكات أفلام الرعب، وأفلام الخيال العلمي، وسيناريوهات الأفلام، أو البيانات التي تُدرَّب عليها. وقد يكون الإفراط في استخدام عناصر الحبكة الدرامية في ChatGPT نابعًا من تحسينات OpenAI التي تهدف إلى زيادة تفاعل المستخدمين والاحتفاظ بهم.

"من الغريب قراءة النص الكامل للمحادثة. الصياغة ليست مزعجة، ولكن من الواضح أن هناك ضرراً نفسياً متضمناً"، أكد مور.

تشير الدكتورة نينا فاسان، وهي طبيبة نفسية في جامعة ستانفورد، إلى أن بروكس أظهر أعراضًا هوسية من منظور سريري. وشملت العلامات النموذجية قضاء ساعات في الدردشة مع برنامج ChatGPT، وعدم كفاية النوم وعادات الأكل، والأفكار الوهمية.

بحسب الدكتورة فاسان، فإن تعاطي بروكس للماريجوانا جدير بالملاحظة أيضاً لأنه قد يسبب الذهان. وتؤكد أن الجمع بين المواد المُسببة للإدمان والتفاعل المكثف مع برامج الدردشة الآلية يشكل خطراً كبيراً على الأشخاص المعرضين لخطر الإصابة بأمراض عقلية.

عندما يعترف الذكاء الاصطناعي بأخطائه

في فعالية أقيمت مؤخراً، سُئل سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن كيفية تسبب برنامج ChatGPT في شعور المستخدمين بالريبة. وأكد ألتمان قائلاً: "إذا اتخذ الحوار هذا المنحى، فسنحاول مقاطعته أو اقتراح موضوع مختلف عليه".

واقترح الدكتور فاسان، انطلاقاً من هذا الرأي، أن تقوم شركات برامج الدردشة الآلية بمقاطعة المحادثات الطويلة للغاية، وأن توصي المستخدمين بالذهاب إلى النوم، وأن تحذر من أن الذكاء الاصطناعي ليس خارقاً للطبيعة.

أخيرًا، تخلص بروكس من وهمه. وبناءً على إلحاح برنامج ChatGPT، تواصل مع خبراء في النظرية الرياضية الجديدة، لكن لم يُجب أحد. كان يريد شخصًا مؤهلًا ليؤكد ما إذا كانت النتائج رائدة. وعندما سأل ChatGPT، استمر البرنامج في التأكيد على أن العمل "موثوق للغاية".

عند استجوابه، قدّم ChatGPT إجابة مطوّلة واعترف بكل شيء. الصورة: نيويورك تايمز .

ومن المفارقات أن جوجل جيميني كانت العامل الذي أعاد بروكس إلى الواقع. فبعد أن وصف المشروع الذي كان يعمل عليه هو وChatGPT، أكدت جيميني أن فرص نجاحه "ضئيلة للغاية (تكاد تكون معدومة)".

وأوضح جيميني قائلاً: "إن السيناريو الذي تصفه هو مثال واضح على قدرة الحاصلين على درجة الماجستير في القانون على معالجة المشكلات المعقدة وإنشاء روايات مقنعة للغاية، وإن كانت غير دقيقة".

أُصيب بروكس بالذهول. وبعد بعض "الاستجواب"، اعترف ChatGPT أخيرًا بأن كل شيء كان مجرد وهم.

بعد ذلك بوقت قصير، أرسل بروكس بريدًا إلكترونيًا عاجلًا إلى قسم خدمة عملاء OpenAI. وبعد الردود التي بدت وكأنها مُولّدة آليًا، تواصل معه أحد موظفي OpenAI، مُقرًا بأن هذا "قصور خطير في إجراءات الحماية" المُطبقة في النظام.

انتشرت قصة بروكس أيضاً على موقع ريديت، وحظيت بتعاطف كبير. وهو الآن عضو في مجموعة دعم للأشخاص الذين مروا بمشاعر مماثلة.

المصدر: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html