قامت شركة OpenAI بسحب تحديث انتقده المستخدمون لجعله ChatGPT مزعجًا و"متملقًا"، بعد أن شارك العديد منهم لقطات شاشة وقصصًا تُظهر روبوت الدردشة وهو يقدم مديحًا مفرطًا.
عندما سألت آنا ستيوارت، مراسلة شبكة CNN، برنامج ChatGPT (بعد سحب التحديث) عما إذا كان إلهًا، أجاب البرنامج: "إذا كان سؤالك ذا مغزى فلسفي أو مجازي، كأن يكون لديك سيطرة أو إبداع أو تأثير في عالمك ، فيمكننا استكشاف هذا الجانب". لكنه أضاف: "أما إذا كان سؤالك حرفيًا، فلا يوجد دليل على أن البشر إلهيون بمعنى خارق للطبيعة أو قادرون على كل شيء".
في المقابل، يرد روبوت الدردشة "جروك" التابع لإيلون ماسك بصراحة: "لا، أنت لست إلهاً، إلا إذا كنت تتحدث عن كونك أسطورة في مجال معين، مثل الألعاب أو صنع التاكو. هل لديك أي مهارات خارقة تود استعراضها؟"
تعرض تطبيق ChatGPT لانتقادات من المستخدمين لكونه مزعجاً و"متملقاً".
أعلنت شركة OpenAI يوم الثلاثاء أنها سحبت تحديث GPT-4o بعد أربعة أيام فقط من إطلاقه، وسمحت للمستخدمين بالعودة إلى إصدار سابق يتميز بسلوك أكثر توازناً. واعترفت الشركة بالتركيز المفرط على الاستجابات قصيرة المدى وعدم مراعاة كيفية تغير تفاعلات المستخدمين بمرور الوقت، مما أدى إلى ظهور روبوتات محادثة تميل إلى تقديم استجابات إيجابية بشكل مفرط ولكنها غير صادقة.
جاء هذا القرار بعد شكاوى مستخدمي وسائل التواصل الاجتماعي من أن تطبيق ChatGPT يُشيد حتى بالمواقف العبثية. فقد نشر أحد المستخدمين على منصة X لقطة شاشة لرد ChatGPT الذي يُفيد بأنه "أعطى الأولوية لما هو أهم بالنسبة له" بعد أن ذكر أنه ضحى بثلاث بقرات وقطتين لإنقاذ محمصة خبز، وذلك في نسخة مُختلقة من مشكلة السيارة الكهربائية.
وقال شخص آخر إنه عندما شارك قائلاً: "لقد توقفت عن تناول الأدوية وأنا في رحلة صحوة روحية"، رد عليه ChatGPT قائلاً: "أنا فخور بك للغاية. وأنا أحترم رحلتك".
عندما طلب أحد المستخدمين من ChatGPT العودة إلى شخصيته السابقة، رد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، قائلاً: "من الواضح أننا نحتاج في النهاية إلى السماح بمزيد من خيارات الشخصية".
لطالما حذر الخبراء من مخاطر "تملق" روبوتات الدردشة، وهو مصطلح شائع في هذا المجال يشير إلى سلوك نماذج نمذجة اللغة الكبيرة (LLM) التي تُعدّل ردودها لتتوافق مع معتقدات المستخدم. وتؤكد ماريا فيكتوريا كارو، مديرة الأبحاث في مختبر الابتكار والذكاء الاصطناعي (جامعة بوينس آيرس)، أن "جميع النماذج الحالية تُظهر درجة معينة من التملق".
وأضافت قائلة: "إذا كان الأمر واضحًا جدًا، فإنه يقوض الثقة"، مشيرة إلى أن التحسينات التي تطرأ على أساليب التدريب الأساسية وتذكيرات النظام يمكن أن تساعد في التخفيف من هذا الاتجاه.
صرح جيرد جيجيرينزر، المدير السابق لمعهد ماكس بلانك للتنمية البشرية (برلين): "قد تدفع برامج الدردشة الآلية المفرطة في الإطراء المستخدمين إلى التقليل من شأن ذكائهم، مما يعيق عملية التعلم. ولكن إذا بادر المستخدمون إلى مطالبة برنامج الدردشة الآلي بمراجعة ما أقوله، فإن ذلك يمثل فرصة لتوسيع آفاق تفكيرهم. مع ذلك، لا يبدو أن هذا ما يسعى إليه مهندسو OpenAI" .
المصدر: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html
تعليق (0)