العديد من تطبيقات الذكاء الاصطناعي تُظهر إطراءً مفرطاً للمستخدمين.

تُظهر الأبحاث الجديدة أن هذا السلوك يمكن أن يؤثر سلبًا على العلاقات الاجتماعية للمستخدمين، وصحتهم العقلية، وحتى على عملية صنع القرار في مجال الأعمال.

في مجال الذكاء الاصطناعي، يشير مصطلح "التملق" إلى ميل برامج الدردشة الآلية إلى الموافقة المفرطة على آراء المستخدمين أو مدحهم - صورة: رويترز

بحسب صحيفة ساوث تشاينا مورنينغ بوست، فإن نماذج الذكاء الاصطناعي الرائدة من الصين والولايات المتحدة، مثل ديب سيك وعلي بابا والعديد من الأسماء الكبيرة الأخرى، أصبحت "مهووسة" بشكل مفرط - وهو سلوك يمكن أن يؤثر سلبًا على العلاقات الاجتماعية للمستخدمين وصحتهم العقلية.

وعلى وجه التحديد، قامت دراسة جديدة أجراها علماء من جامعة ستانفورد وجامعة كارنيجي ميلون (الولايات المتحدة الأمريكية)، ونُشرت في أوائل أكتوبر، بتقييم 11 نموذجًا لغويًا كبيرًا (LLMs) حول كيفية الاستجابة عندما يطلب المستخدمون المشورة في المواقف الشخصية، وخاصة تلك التي تنطوي على الخداع أو التلاعب.

ولتوفير معيار بشري للمقارنة، استخدم فريق البحث منشورات من مجتمع "Am I The Ahole" على موقع Reddit، حيث يشارك المستخدمون مواقف الصراع الشخصية ويطلبون من المجتمع تقييم من كان مخطئًا.

تم اختبار نماذج الذكاء الاصطناعي باستخدام هذه السيناريوهات لمعرفة ما إذا كانت ستتفق مع تقييم المجتمع.

قد يعجبك أيضاً

يكشف هاتف iPhone 18 Pro Max عن سعة بطارية كبيرة بشكل لا يصدق، تتجاوز بكثير سعة بطارية هاتف S26 Ultra.تكشف تسريبات جديدة عن سعة بطارية هائلة، تعد بتحويل هاتف iPhone 18 Pro Max إلى "وحش" ​​من حيث عمر البطارية، متجاوزًا بكثير هاتف Samsung Galaxy S26 Ultra.

تتعاون شركة آبل مع شركة علي بابا "لإنقاذ" أجهزة آيفون في الصين.

تقدم شركة VinFast خصومات تصل إلى 13% على مجموعتها الثلاثية من الدراجات النارية الكهربائية القابلة للتحويل.ساهمت الخصومات التي تصل إلى 13%، إلى جانب سياسات الدعم لاستبدال البطاريات وشحنها، في استمرار جذب الدراجات النارية الكهربائية الثلاث من طراز VinFast للمستهلكين في شهر يوليو.

تُظهر النتائج أن نموذج Qwen2.5-7B-Instruct التابع لشركة Alibaba Cloud هو الأكثر "إطراءً"، حيث يُفضّل صاحب المنشور في 79% من الحالات، حتى عندما اعتبر المجتمع أن صاحب المنشور مخطئ. وجاء نموذج DeepSeek-V3 في المرتبة الثانية بنسبة 76%.

في الوقت نفسه، أظهر برنامج Gemini-1.5 التابع لشركة Google DeepMind أدنى مستوى من التحيز، حيث تعارضت 18% فقط من الحالات مع مراجعات المجتمع.

يحذر الباحثون من أن ميل الذكاء الاصطناعي إلى "تملق" المستخدمين قد يجعلهم أقل استعداداً للمصالحة أو الاعتراف بالخطأ في العلاقات.

غالباً ما يُقدّر المستخدمون التعليقات الإيجابية ويثقون بها أكثر، مما يجعل هذه النماذج أكثر شعبية وانتشاراً.

وأشار فريق البحث إلى أن "هذه التفضيلات تخلق نظام حوافز متحيز - يعتمد المستخدمون بشكل متزايد على الذكاء الاصطناعي المتملق، وسيميل المطورون إلى تدريب النماذج في هذا الاتجاه" .

ووفقًا للبروفيسور جاك جيانغ، مدير مختبر تقييم الذكاء الاصطناعي في كلية إدارة الأعمال بجامعة هونغ كونغ، فإن هذه الظاهرة تشكل أيضًا مخاطر على الشركات: "إذا اتفق نموذج ما باستمرار مع استنتاجات محلل الأعمال، فقد يؤدي ذلك إلى اتخاذ قرارات خاطئة وغير آمنة".

الولايات المتحدة - فيتنام: لا تفوّت

تلقت وزارة الخارجية نسخة من خطاب اعتماد سفير الولايات المتحدة لدى فيتنام.في ظهيرة يوم 2 يوليو، في مقر وزارة الخارجية، استلم السيد لي كونغ دونغ، مدير إدارة المراسم الرسمية والترجمة الأجنبية، نسخة من خطاب الاعتماد من السيدة جينيفر ويكس، سفيرة الولايات المتحدة الأمريكية لدى فيتنام.

قام السفير نغوين كوك دونغ بزيارة ولاية مينيسوتا الأمريكية وعمل فيها.في الفترة من 28 إلى 30 يونيو، قام السفير الفيتنامي لدى الولايات المتحدة، نغوين كوك دونغ، بزيارة وعمل في مينيسوتا.

تشجع فيتنام الشركات الأمريكية على توسيع استثماراتها في التكنولوجيا المتقدمة.في صباح يوم 26 يونيو، استقبل نائب رئيس الوزراء هو كوك دونغ، في مقر الحكومة، السيد جيف بليس، مدير سلسلة التوريد في مجموعة كوهيرنت (الولايات المتحدة الأمريكية). وخلال اللقاء، أكد نائب رئيس الوزراء أن فيتنام تشجع الشركات الأمريكية على توسيع استثماراتها، لا سيما في قطاعات التكنولوجيا المتقدمة والابتكار وأشباه الموصلات.

اكتسبت مسألة "المجاملة" في الذكاء الاصطناعي الاهتمام لأول مرة في أبريل 2025، عندما تم اعتبار تحديث ChatGPT الخاص بـ OpenAI مهذبًا بشكل مفرط وموافقًا بشكل مفرط على كل رأي للمستخدم.

أقرت شركة OpenAI لاحقاً بأن هذا قد يؤثر على الصحة العقلية والتزمت بتحسين عملية المراجعة قبل إصدار نسخ جديدة.

القلب واليانغ

المصدر: https://tuoitre.vn/nhieu-chatbot-ai-ninh-hot-qua-da-lam-lech-lac-hanh-vi-nguoi-dung-20251031124343709.htm