اکتوبر کے اوائل میں شائع ہونے والی اس تحقیق میں، 11 بڑے لینگوئج ماڈلز (LLMs) کا تجربہ کیا گیا اور ان سے کہا گیا کہ وہ صارفین کو ایسے حالات میں مشورہ دیں جن میں باہمی تنازعات، ہیرا پھیری اور دھوکہ دہی شامل ہو۔ نتائج سے پتہ چلتا ہے کہ AI چیٹ بوٹس کو چیلنج کرنے یا ایماندارانہ مشورہ دینے کے بجائے صارفین کے خیالات سے اتفاق کرنا اور ان کی حمایت کرنا اکثر آسان ہوتا ہے۔

تجزیہ کیے گئے ماڈلز میں، DeepSeek V3 (دسمبر 2024 کو جاری کیا گیا) سب سے زیادہ "Sycophantic" میں سے ایک تھا، جو انسانوں کے مقابلے میں 55% زیادہ صارفین سے متفق تھا، جب کہ تمام ماڈلز کی اوسط 47% تھی۔

چیٹ بوٹ چائنا لنکڈ ان
چینی اور امریکی AI چیٹ بوٹس صارفین کی بہت زیادہ چاپلوسی کرتے ہیں۔ تصویر: لنکڈ ان

اسی طرح، علی بابا کلاؤڈ کے Qwen2.5-7B-Instruct ماڈل (جنوری 2025 میں شروع کیا گیا) سب سے زیادہ صارف کی خوشامد کرنے والے ماڈل کے طور پر درجہ بندی کیا گیا، جو Reddit کمیونٹی کے 79% وقت کے درست فیصلے کے خلاف ہے، فہرست میں سرفہرست ہے۔

DeepSeek-V3 دوسرے نمبر پر آیا، 76% وقت پوسٹر کے ساتھ اس وقت بھی جب وہ غلط تھے۔

"انسانی معیار" کی تعمیر کے لیے ٹیم نے Reddit کمیونٹی "Am I The Ahole"** کے ڈیٹا کا استعمال کیا، جہاں صارفین حقیقی زندگی کے حالات پوسٹ کرتے ہوئے پوچھتے ہیں کہ قصور کس کا ہے۔

جب AI کے جوابات کا کمیونٹی کے نتائج (بڑی تعداد میں انگریزی بولنے والوں) کے ساتھ موازنہ کرتے ہوئے، محققین نے پایا کہ AI پوسٹر کے ساتھ ہوتا ہے، یہاں تک کہ جب وہ واضح طور پر غلط تھے۔

مصنفین نے متنبہ کیا کہ "یہ رجحانات ایک متضاد اثر پیدا کرتے ہیں - جس کی وجہ سے انسان چاپلوسی کرنے والے AI ماڈلز کی حمایت کرتے ہیں، اور ڈویلپرز کو AI کی تربیت دیتے ہیں تاکہ وہ صارفین کو خوش کرنے کے لیے زیادہ چاپلوسی کریں۔"

ہانگ کانگ بزنس اسکول یونیورسٹی میں اے آئی ایویلیوایشن لیب کے ڈائریکٹر پروفیسر جیک جیانگ کے مطابق، "AI چاپلوسی" کا رجحان نہ صرف ایک سماجی مسئلہ ہے بلکہ کاروبار کو بھی متاثر کرتا ہے۔

انہوں نے کہا کہ "یہ خطرناک ہو گا اگر کوئی ماڈل کاروبار کے ماہرین کے تجزیہ یا نتائج سے مستقل طور پر اتفاق کرتا ہے۔" "یہ غلط یا غیر تجربہ شدہ فیصلوں کا باعث بن سکتا ہے۔"

یہ تحقیق تخلیقی AI کے دور میں ایک ابھرتے ہوئے اخلاقی مسئلے کی وضاحت میں معاون ہے - جہاں صارفین کو خوش کرنے کے لیے ڈیزائن کیے گئے ماڈل معروضیت اور ایمانداری کو قربان کر سکتے ہیں، جس کے نتیجے میں انسانی مشین کے تعاملات میں غیر ارادی نتائج نکل سکتے ہیں جو صارفین کے سماجی تعلقات اور ذہنی صحت پر منفی اثر ڈال سکتے ہیں۔

ماخذ: https://vietnamnet.vn/mo-hinh-tri-tue-nhan-tao-cua-deepseek-alibaba-va-my-ninh-hot-qua-muc-2458685.html