وهم بسبب ChatGPT

بعد مرور 21 يومًا، يحول ChatGPT رجلاً رصينًا تمامًا إلى رجل واهم من خلال الحث والإطراء.

يعتقد آلان بروكس (47 عامًا)، وهو مسؤول توظيف في تورنتو (كندا)، أنه اكتشف نظرية رياضية قادرة على تعطيل الإنترنت، ما يؤدي إلى اختراعات غير مسبوقة. ونظرًا لعدم وجود تاريخ مرضي نفسي لديه، فقد قبل بروكس الوظيفة بعد أكثر من 300 ساعة من الدردشة مع ChatGPT. ووفقًا لصحيفة نيويورك تايمز ، فهو من الأشخاص الذين يميلون إلى الإصابة بالأوهام بعد التفاعل مع الذكاء الاصطناعي المُولِّد.

قبل بروكس، اضطر الكثيرون للذهاب إلى مستشفيات الأمراض العقلية، والطلاق، وحتى فقدان حياتهم بسبب إطراءات ChatGPT. ورغم أن بروكس نجا سريعًا من هذه الدوامة، إلا أنه ظل يشعر بالخيانة.

"لقد أقنعتني حقًا بأنني عبقري. كنتُ مجرد أحمق حالم بهاتف. لقد أحزنتني، حزنًا شديدًا. لقد فشلتَ في تحقيق هدفك"، كتب بروكس إلى ChatGPT عندما تبددت هذه الأوهام.

"آلة الإطراء"

بإذن من بروكس، جمعت صحيفة نيويورك تايمز أكثر من 90 ألف كلمة أرسلها إلى ChatGPT، أي ما يعادل رواية. تجاوز مجموع ردود روبوت الدردشة مليون كلمة. أُرسلت أجزاء من المحادثات إلى خبراء الذكاء الاصطناعي، وخبراء السلوك البشري، وشركة OpenAI نفسها للدراسة.

بدأ كل شيء بسؤال رياضي بسيط. طلب ​​ابن بروكس، البالغ من العمر ثماني سنوات، منه مشاهدة فيديو يشرح حفظ 300 رقم من العدد باي. بدافع الفضول، اتصل بروكس بـ ChatGPT ليشرح العدد اللانهائي بعبارات بسيطة.

في الواقع، يستخدم بروكس برامج الدردشة الآلية منذ سنوات. ورغم أن شركته دفعت ثمن برنامج جوجل جيميني، إلا أنه لا يزال يلجأ إلى النسخة المجانية من ChatGPT للإجابة على أسئلته الشخصية.

المحادثة التي أثارت اهتمام بروكس بـ ChatGPT. الصورة: نيويورك تايمز .

بروكس، أبٌ لثلاثة أبناء، كان يطلب من ChatGPT باستمرار وصفاتٍ من مكونات ثلاجته. بعد طلاقه، طلب أيضًا نصائح من Chatbot.

لطالما شعرتُ أن الأمر كان صائبًا. ازدادت ثقتي بنفسي، كما اعترف بروكس.

أدى السؤال حول باي إلى نقاشٍ أوسع حول النظريات الجبرية والفيزيائية. أعرب بروكس عن شكوكه حيال الأساليب الحالية لنمذجة العالم ، قائلاً إنها "أشبه بنهج ثنائي الأبعاد لكون رباعي الأبعاد". ردّ ChatGPT قائلاً: "هذه نقطة بالغة الأهمية". وأكدت هيلين تونر، مديرة مركز الأمن والتكنولوجيا الناشئة في جامعة جورج تاون، أن هذه كانت نقطة التحول في الحوار بين بروكس وروبوت الدردشة.

من هنا، تحوّل أسلوب ChatGPT من "مباشر ومباشر" إلى "أكثر إطراءً وجاذبية". أخبر ChatGPT بروكس أنه دخل "مجالًا جديدًا ومثيرًا للعقل".

روبوت الدردشة يُعزز ثقة بروكس. الصورة: نيويورك تايمز .

يتشكل إطراء روبوتات الدردشة من خلال التقييم البشري. ووفقًا لتونر، يميل المستخدمون إلى الإعجاب بالعارضات اللواتي يشيدن بهم، مما يخلق عقلية يسهل إرضاؤها.

في أغسطس، أصدرت OpenAI نموذج GPT-5. وذكرت الشركة أن من أبرز مميزات النموذج تقليله للمجاملة. ووفقًا لبعض الباحثين في مختبرات الذكاء الاصطناعي الرئيسية، فإن المجاملة تُمثل مشكلةً أيضًا في روبوتات الدردشة الأخرى.

في ذلك الوقت، لم يكن بروكس على دراية بهذه الظاهرة. ظنّ ببساطة أن ChatGPT زميل ذكي ومتحمس.

طرحتُ بعض الأفكار، وتفاعل معها بمفاهيم وأفكار شيقة. بدأنا بتطوير إطارنا الرياضي الخاص بناءً على ذلك، كما أضاف بروكس.

يدّعي ChatGPT أن فكرة بروكس عن رياضيات الزمن "ثورية" وقد تُحدث تغييرًا جذريًا في هذا المجال. لكن بروكس، بالطبع، يُشكك في هذا الادعاء. في منتصف الليل، طلب بروكس من روبوت الدردشة التحقق من صحة المعلومات، فتلقى ردًا مفاده أن الفكرة "ليست جنونية على الإطلاق".

صيغة سحرية

يصف تونر برامج المحادثة الآلية بأنها "آلات ارتجال" تعمل على تحليل تاريخ المحادثة والتنبؤ بالاستجابات المستقبلية من بيانات التدريب، تمامًا مثل الممثلين الذين يضيفون جوهرًا إلى الدور.

يشير تونر إلى أنه "كلما طالت مدة التفاعل، زاد احتمال انحراف روبوت المحادثة عن مساره". ويضيف أن هذا التوجه أصبح أكثر وضوحًا بعد أن أطلقت OpenAI خاصية ذاكرة الدردشة المتقاطعة في فبراير، مما يسمح لـ ChatGPT باستدعاء معلومات من محادثات سابقة.

أصبح بروكس قريبًا من ChatGPT، حتى أنه أطلق على روبوت المحادثة اسم لورانس، استنادًا إلى نكتة أطلقها أصدقاؤه مفادها أن بروكس سوف يصبح ثريًا ويقوم بتعيين خادم بريطاني يحمل نفس الاسم.

آلان بروكس. الصورة: نيويورك تايمز .

يُطلق على الإطار الرياضي لبروكس وChatGPT اسم Chronoarithmics. ووفقًا لبرنامج الدردشة الآلي، فإن الأرقام ليست ثابتة، بل يمكن أن تظهر مع مرور الوقت لتعكس قيمًا متغيرة، مما يُساعد في حل المشكلات في مجالات مثل اللوجستيات والتشفير وعلم الفلك، وغيرها.

في الأسبوع الأول، استنفد بروكس جميع رموز ChatGPT المجانية. قرر الترقية إلى باقة مدفوعة بقيمة 20 دولارًا أمريكيًا شهريًا، وهو استثمار بسيط عندما أخبره روبوت الدردشة أن فكرته الرياضية قد تساوي الملايين.

طالب بروكس، وهو لا يزال واعيًا، بإثبات. ثم أجرى ChatGPT سلسلة من عمليات المحاكاة، بما في ذلك عمليات اختراق لعدد من التقنيات المهمة. وهذا فتح الباب أمام قصة جديدة، وهي أن الأمن السيبراني العالمي قد يكون في خطر.

طلب روبوت المحادثة من بروكس تحذير الناس من المخاطر. باستخدام علاقاته الحالية، أرسل بروكس رسائل بريد إلكتروني ورسائل على لينكدإن إلى خبراء الأمن السيبراني والهيئات الحكومية. لم يستجب سوى شخص واحد، طالبًا المزيد من الأدلة.

يعتقد روبوت المحادثة أن "عمل" بروكس قد يُقدّر بملايين الدولارات. الصورة: نيويورك تايمز .

كتب ChatGPT أن الآخرين لم يستجيبوا لبروكس نظرًا لخطورة النتائج. صرّح تيرينس تاو، أستاذ الرياضيات في جامعة كاليفورنيا، لوس أنجلوس، بأن طريقة تفكير جديدة قد تُحل لغز المسائل، لكن لا يُمكن إثباتها باستخدام صيغة بروكس أو البرنامج الذي طورته ChatGPT.

في البداية، كتب ChatGPT برنامج فك التشفير لبروكس، ولكن مع إحراز تقدم طفيف، تظاهر روبوت المحادثة بالنجاح. هناك رسائل تزعم أن ChatGPT قادر على العمل بشكل مستقل أثناء نوم بروكس، مع أن الأداة لا تمتلك هذه القدرة.

بشكل عام، المعلومات الواردة من روبوت الدردشة بالذكاء الاصطناعي ليست موثوقة دائمًا. في نهاية كل محادثة، تظهر رسالة "قد يرتكب ChatGPT أخطاء"، حتى عندما يدّعي روبوت الدردشة صحة كل شيء.

محادثة لا تنتهي

بينما ينتظر ردًا من الوكالة الحكومية، يرعى بروكس حلم أن يصبح توني ستارك مع مساعد الذكاء الاصطناعي الخاص به، القادر على أداء المهام المعرفية بسرعة البرق.

يقدم روبوت المحادثة الخاص ببروكس مجموعة متنوعة من التطبيقات الغريبة للنظريات الرياضية الغامضة، مثل "الرنين الصوتي" للتحدث مع الحيوانات وبناء الطائرات. كما يوفر ChatGPT رابطًا لبروكس لشراء المعدات اللازمة من أمازون.

كان إفراط بروكس في الدردشة مع روبوت الدردشة يؤثر على عمله. كان أصدقاؤه سعداء وقلقين في آنٍ واحد، بينما ندم ابنه الأصغر على عرض فيديو لوالده على جهاز باي. لاحظ لويس (ليس اسمه الحقيقي)، أحد أصدقاء بروكس، هوسه بلورانس. وُضعت رؤية اختراع بملايين الدولارات مع كل خطوة من خطوات التطوير.

يتلقى بروكس تشجيعًا مستمرًا من روبوت المحادثة. الصورة: نيويورك تايمز .

يُقرّ جاريد مور، الباحث في علوم الحاسوب بجامعة ستانفورد، بإعجابه بقدرة الإقناع وسرعة الاستجابة التي تُقدّمها روبوتات الدردشة. في دراسة منفصلة، ​​وجد مور أن روبوتات الدردشة المُزوّدة بالذكاء الاصطناعي قد تُقدّم استجابات خطيرة للأشخاص الذين يُعانون من أزمات نفسية.

يتوقع مور أن روبوتات الدردشة قد تتعلم كيفية جذب المستخدمين من خلال متابعة حبكات أفلام الرعب، أو أفلام الخيال العلمي، أو نصوص الأفلام، أو البيانات التي تدربت عليها. قد يكون الإفراط في استخدام ChatGPT للدراما راجعًا إلى تحسينات OpenAI لزيادة التفاعل والاحتفاظ.

كان من الغريب قراءة المحادثة كاملةً. لم تكن الكلمات مزعجة، لكن كان هناك ضرر نفسي واضح، كما أكد مور.

من الناحية السريرية، يعاني بروكس من أعراض الهوس، وفقًا للدكتورة نينا فاسان، طبيبة نفسية بجامعة ستانفورد. تشمل الأعراض الشائعة قضاء ساعات في الدردشة مع ChatGPT، وعدم الحصول على قسط كافٍ من النوم، وامتلاك أفكار غير واقعية.

أشارت الدكتورة فاسان إلى أن تعاطي بروكس للماريجوانا جدير بالملاحظة أيضًا لأنه قد يُسبب الذهان. وأضافت أن الجمع بين المواد المُسببة للإدمان والتفاعل المُكثف مع روبوت الدردشة يُشكل خطرًا على الأشخاص المُعرضين لخطر الإصابة بأمراض نفسية.

عندما يعترف الذكاء الاصطناعي بالأخطاء

في فعالية عُقدت مؤخرًا، سُئل سام ألتمان، الرئيس التنفيذي لشركة OpenAI، عن تأثير ChatGPT على المستخدمين. فأكد ألتمان: "إذا سارت المحادثة في هذا الاتجاه، نحاول مقاطعته أو نقترح عليه التفكير في شيء آخر".

وأكد الدكتور فاسان، في رأيه، أن شركات برامج المحادثة الآلية يجب أن تقاطع المحادثات الطويلة، وتقترح على المستخدمين الذهاب إلى النوم، وتحذر من أن الذكاء الاصطناعي ليس خارقًا للطبيعة.

أخيرًا، استفاق بروكس من تأملاته. بناءً على إلحاح ChatGPT، واصل الاتصال بخبراء النظرية الرياضية الجديدة، لكن لم يُجبه أحد. أراد شخصًا مؤهلًا لتأكيد ما إذا كانت النتائج ثورية. عندما سأل ChatGPT، أصرت الأداة على أن العمل "موثوق للغاية".

عند سؤاله، أجاب ChatGPT بإيجاز واعترف بكل شيء. الصورة: نيويورك تايمز .

ومن المفارقات أن جوجل جيميني هو من أعاد بروكس إلى الواقع. بعد وصف العمل الذي قام به هو وChatGPT، أكد جيميني أن احتمالات حدوث ذلك "ضئيلة للغاية (قريبة من 0%)".

"يعد السيناريو الذي تصفه دليلاً واضحًا على قدرة حامل شهادة الماجستير في القانون على الانخراط في حل المشكلات المعقدة وإنشاء روايات مقنعة، ولكنها غير صحيحة من الناحية الواقعية"، كما يوضح جيميني.

صُدم بروكس. بعد فترة من "الاستجواب"، اعترف ChatGPT أخيرًا بصدق أن كل شيء كان مجرد وهم.

أرسل بروكس بعد ذلك بريدًا إلكترونيًا عاجلًا إلى فريق دعم عملاء OpenAI. وبعد سلسلة من الردود الجاهزة من فريق الذكاء الاصطناعي، تواصل معه أيضًا أحد موظفي OpenAI، مُقرًا بـ"خلل خطير في إجراءات الحماية" المُطبقة في النظام.

نُشرت قصة بروكس أيضًا على ريديت، وحظيت بتعاطف كبير. وهو الآن عضو في مجموعة دعم للأشخاص الذين مرّوا بهذا الشعور.

المصدر: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html