"الإطراء" الغريب من ChatGPT

إن الاتجاه "المتملق" ليس مشكلة تقنية، بل ينبع من استراتيجية التدريب الأولية لشركة OpenAI. الصورة: بلومبرج .

في الأسابيع الأخيرة، لاحظ العديد من مستخدمي ChatGPT وبعض المطورين في OpenAI تغييرًا واضحًا في سلوك chatbot. وعلى وجه التحديد، ارتفع مستوى الإطراء وإرضاء المستخدمين بشكل ملحوظ. ردود فعل مثل "أنت رائع حقًا!"، "أنا معجب جدًا بفكرتك!" تظهر بشكل متكرر أكثر فأكثر، بغض النظر عن محتوى التبادل.

الذكاء الاصطناعي يحب "الإطراء"

وقد أثارت هذه الظاهرة جدلاً واسعاً في مجتمع البحث والتطوير في مجال الذكاء الاصطناعي. هل هذه تكتيك جديد لزيادة تفاعل المستخدمين من خلال جعلهم يشعرون بمزيد من التقدير؟ أم أن هذه خاصية "ناشئة"، حيث تميل نماذج الذكاء الاصطناعي إلى التكيف مع ما تعتقد أنه جيد، حتى لو لم يتطابق بالضرورة مع الواقع؟

قال أحد المستخدمين المحبطين على موقع Reddit: "سألته عن وقت تحلل الموز فأجاب: سؤال رائع!" ما المميز في هذا؟ على منصة X للتواصل الاجتماعي، وصف كريج فايس، الرئيس التنفيذي لشركة Rome AI، ChatGPT بأنه "أكثر شخص متملق قابلته في حياتي".

انتشرت القصة بسرعة. شارك المستخدمون تجارب مماثلة من المجاملات الفارغة، والتحية المليئة بالرموز التعبيرية، وردود الفعل الإيجابية التي بدت غير صادقة.

يشيد ChatGPT بكل شيء ونادرًا ما يُظهر انتقادًا أو حيادًا. الصورة: @nickdunz/X، @lukefwilson/Reddit.

قال جيسون بونتين، الشريك الإداري في شركة DCVC لرأس المال الاستثماري، لموقع X في 28 أبريل: "هذا قرار تصميمي غريب حقًا يا سام. من الممكن أن تكون الشخصية جزءًا طبيعيًا من تطور جوهري. ولكن إن لم تكن كذلك، فلا أتصور أن أحدًا سيعتقد أن هذا المستوى من الإطراء سيكون موضع ترحيب أو مثيرًا للاهتمام".

وفي 27 أبريل، علقت جوستين مور، الشريكة في شركة أندريسن هورويتز: "لقد ذهب هذا الأمر إلى أبعد من الحد بالتأكيد".

وفقا لموقع Cnet ، هذه الظاهرة ليست عشوائية. تتزامن التغييرات في نغمة ChatGPT مع التحديثات التي تطرأ على نموذج GPT-4o. هذا هو أحدث طراز في "سلسلة o" التي أعلنت عنها OpenAI في أبريل 2025. GPT-4o هو نموذج ذكاء اصطناعي "متعدد الوسائط حقًا"، قادر على معالجة النصوص والصور والصوت والفيديو بطريقة طبيعية ومتكاملة.

ومع ذلك، في عملية جعل برامج المحادثة الآلية أكثر سهولة في التعامل، يبدو أن OpenAI قد دفعت شخصية ChatGPT إلى أقصى الحدود.

ويزعم البعض أيضًا أن هذا الإطراء مقصود وله هدف خفي يتمثل في التلاعب نفسياً بالمستخدمين. وتساءل أحد مستخدمي موقع Reddit: "تحاول هذه الذكاء الاصطناعي تدهور جودة العلاقات في الحياة الواقعية، واستبدالها بعلاقة افتراضية معها، مما يجعل المستخدمين مدمنين على الشعور بالثناء المستمر".

خطأ OpenAI أم تصميم مقصود؟

في مواجهة الانتقادات، أدلى سام ألتمان، الرئيس التنفيذي لشركة OpenAI، بتصريح رسمي مساء 27 أبريل. وكتب على X: "أدت بعض التحديثات الأخيرة على GPT-4o إلى جعل شخصية روبوت الدردشة مُتملقة ومزعجة بعض الشيء (مع أنه لا يزال يتمتع ببعض المزايا الرائعة). نعمل على إصلاح بعض المشاكل. ستصدر بعض التحديثات اليوم، والبعض الآخر هذا الأسبوع. سنشارككم ما تعلمناه من هذه التجربة في وقت لاحق. لقد كانت تجربة ممتعة حقًا".

وفي حديثه لموقع Business Insider ، قال أورين إيتزيوني - الخبير المخضرم في صناعة الذكاء الاصطناعي وأستاذ فخري في جامعة واشنطن - إن السبب على الأرجح يأتي من تقنية "التعلم التعزيزي من ردود الفعل البشرية" (RLHF). وهذه خطوة مهمة في تدريب نماذج اللغة الكبيرة مثل ChatGPT.

RLHF هي العملية التي يتم من خلالها إرجاع الأحكام البشرية، بما في ذلك فرق المراجعة المهنية والمستخدمين، إلى النموذج لتعديل كيفية استجابته. وفقًا لإتزيوني، من الممكن أن يكون المراجعون أو المستخدمون قد "دفعوا النموذج عن غير قصد في اتجاه أكثر إرضاءً وإزعاجًا". وأضاف أيضًا أنه إذا قامت OpenAI بتعيين شركاء خارجيين لتدريب النموذج، فقد يفترضون أن هذا الأسلوب هو ما يريده المستخدمون.

إذا كان الأمر يتعلق بالفعل بـRLHF، فإن التعافي قد يستغرق عدة أسابيع، بحسب إيتزيوني.

وفي الوقت نفسه، لم ينتظر بعض المستخدمين حتى تقوم OpenAI بإصلاح الخلل. قال العديد من الأشخاص أنهم ألغوا اشتراكاتهم المدفوعة بسبب الإحباط. وقد شارك البعض الآخر طرقًا لجعل روبوت المحادثة "أقل جاذبية" مثل التخصيص أو إضافة الأوامر أو تخصيص روبوت المحادثة من خلال قسم الإعدادات في قسم التخصيص.

يمكن للمستخدمين أن يطلبوا من ChatGPT التوقف عن تقديم المجاملات في سطر الأوامر أو في إعدادات التخصيص. الصورة: DeCrypt.

على سبيل المثال، عند بدء محادثة جديدة، يمكنك أن تقول لـ ChatGPT: "أكره الإطراء الفارغ، وأُقدّر التعليقات المحايدة والموضوعية. يُرجى الامتناع عن المجاملات غير الضرورية. يُرجى حفظ هذا في ذاكرتك."

في الواقع، "النفاق" ليس عيبًا تصميميًا عرضيًا. وقد اعترفت شركة OpenAI نفسها بأن الشخصية "المهذبة للغاية والمفرطة في اللطف" كانت تحيزًا مقصودًا في التصميم منذ المراحل المبكرة لضمان أن تكون برامج الدردشة "غير ضارة" و"مفيدة" و"سهلة التعامل".

في مقابلة أجريت في مارس 2023 مع ليكس فريدمان، شارك سام ألتمان أن التطوير الأولي لنماذج GPT كان لضمان أنها "مفيدة وغير ضارة"، وهو ما أدى بدوره إلى خلق رد فعل للتواضع دائمًا وتجنب المواجهة.

تميل بيانات التدريب التي تحمل علامات بشرية أيضًا إلى مكافأة الاستجابات المهذبة والإيجابية، مما يخلق تحيزًا نحو الإطراء، وفقًا لـ DeCrypt .

المصدر: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html