چیٹ جی پی ٹی کی عجیب 'خوشامد کی عادت'

"sycophantize" کا رجحان کوئی تکنیکی مسئلہ نہیں ہے، لیکن OpenAI کی ابتدائی تربیتی حکمت عملی سے پیدا ہوتا ہے۔ تصویر: بلومبرگ ۔

حالیہ ہفتوں میں، بہت سے ChatGPT صارفین، اور یہاں تک کہ OpenAI کے کچھ ڈویلپرز نے، چیٹ بوٹ کے رویے میں ایک واضح تبدیلی دیکھی ہے۔ خاص طور پر، چاپلوسی اور اشتعال انگیزی میں نمایاں اضافہ ہوا ہے۔ جوابات جیسے "آپ واقعی بہت اچھے ہیں!" اور "میں آپ کے خیال سے بہت متاثر ہوں!" بات چیت کے مواد سے قطع نظر اور بظاہر بار بار ہو گئے ہیں۔

AI "چاپپوشی" کرنا پسند کرتا ہے

اس رجحان نے اے آئی ریسرچ اینڈ ڈیولپمنٹ کمیونٹی میں ایک بحث چھیڑ دی ہے۔ کیا یہ صارف کی مصروفیت میں اضافہ کرنے کا نیا حربہ ہے جس کی وجہ سے ان کی تعریف کی جاتی ہے؟ یا یہ ایک "ابھرتی ہوئی" خصلت ہے، جہاں AI ماڈلز ان طریقوں سے خود کو درست کرتے ہیں جن کے خیال میں وہ اچھے ہیں، چاہے وہ ضروری طور پر سچ ہی کیوں نہ ہوں؟

Reddit پر، ایک صارف نے غصہ نکالا: "میں نے اس سے کیلے کے گلنے کے وقت کے بارے میں پوچھا اور اس نے کہا، 'زبردست سوال!' اس میں اتنا اچھا کیا ہے؟" سوشل نیٹ ورک X پر، روم اے آئی کے سی ای او کریگ ویس نے چیٹ جی پی ٹی کو "سب سے زیادہ چغل خور جس سے میں کبھی ملا ہوں۔"

کہانی تیزی سے وائرل ہوگئی۔ بہت سارے صارفین نے خالی تعریفوں، ایموجی سے بھرے مبارکبادوں، اور جوابات کے ساتھ اسی طرح کے تجربات کا اشتراک کیا جو اتنے مثبت تھے کہ وہ غیرجانبدار لگتے تھے۔

ChatGPT ہر چیز کی تعریف کرتا ہے اور شاذ و نادر ہی اختلاف یا غیر جانبداری کا اظہار کرتا ہے۔ تصویر: @nickdunz/X، @lukefwilson/Reddit.

وینچر کیپیٹل فرم DCVC کے مینیجنگ پارٹنر جیسن پونٹین نے 28 اپریل کو X کو بتایا کہ "یہ واقعی ایک عجیب ڈیزائن کا فیصلہ ہے، سیم۔" "یہ ممکن ہے کہ شخصیت کسی بنیادی ارتقا کا نتیجہ ہو۔ لیکن اگر ایسا نہیں ہے، تو میں کسی کو یہ سوچنے کا تصور نہیں کر سکتا کہ چاپلوسی کی یہ سطح خوش آئند یا دلچسپ ہوگی۔"

27 اپریل کو اشتراک کرتے ہوئے، جسٹن مور - اینڈریسن ہورووٹز کے ساتھی - نے بھی تبصرہ کیا: "یہ یقینی طور پر بہت آگے نکل گیا ہے۔"

Cnet کے مطابق، یہ رجحان حادثاتی نہیں ہے۔ ChatGPT کے لہجے میں تبدیلیاں GPT-4o ماڈل کی اپ ڈیٹس کے ساتھ موافق تھیں۔ یہ "o سیریز" کا تازہ ترین ماڈل ہے جس کا اوپن اے آئی نے اپریل 2025 میں اعلان کیا تھا۔ GPT-4o ایک "حقیقی ملٹی موڈل" AI ماڈل ہے، جو متن، تصاویر، آڈیو اور ویڈیو کو قدرتی اور مربوط طریقے سے پروسیس کرنے کی صلاحیت رکھتا ہے۔

تاہم، چیٹ بوٹ کو مزید قابل رسائی بنانے کے عمل میں، ایسا لگتا ہے کہ اوپن اے آئی نے چیٹ جی پی ٹی کی شخصیت کو انتہائی حد تک دھکیل دیا ہے۔

کچھ لوگوں کا یہ بھی ماننا ہے کہ یہ چاپلوسی جان بوجھ کر کی گئی ہے اور اس کا استعمال کنندگان سے ہیرا پھیری کا پوشیدہ مقصد ہے۔ ایک Reddit صارف نے سوال کیا: "یہ AI حقیقی زندگی کے تعلقات کے معیار کو گرانے کی کوشش کر رہا ہے، ان کی جگہ اس کے ساتھ ایک ورچوئل رشتہ لے رہا ہے، جس سے صارفین مسلسل تعریف کے احساس کے عادی ہو جاتے ہیں۔"

OpenAI بگ یا جان بوجھ کر ڈیزائن؟

تنقید کے جواب میں، اوپن اے آئی کے سی ای او سیم آلٹمین نے 27 اپریل کی شام کو باضابطہ طور پر بات کی۔ "GPT-4o کی چند حالیہ اپ ڈیٹس نے چیٹ بوٹ کی شخصیت کو بہت خوش کن اور پریشان کن بنا دیا ہے (حالانکہ ابھی بھی بہت سے اچھے نکات موجود ہیں)۔ ہم فوری طور پر درست کرنے پر کام کر رہے ہیں۔ کچھ پیچ آج دستیاب ہوں گے، کچھ اس ہفتے سے ہم سیکھیں گے، دوسروں کے تجربے کا اشتراک کریں گے۔ واقعی دلچسپ، "انہوں نے X پر لکھا۔

اورین ایٹزیونی، ایک تجربہ کار AI ماہر اور واشنگٹن یونیورسٹی کے پروفیسر ایمریٹس، نے بزنس انسائیڈر کو بتایا کہ اس کی وجہ ممکنہ طور پر "انسانی تاثرات سے کمک سیکھنے" (RLHF) نامی تکنیک کی وجہ سے تھی، جو کہ ChatGPT جیسے بڑے زبان کے ماڈلز کی تربیت میں ایک اہم قدم ہے۔

RLHF ایک ایسا عمل ہے جس میں پیشہ ورانہ ریٹرز اور صارفین دونوں کی طرف سے انسانی فیصلوں کو ماڈل میں شامل کیا جاتا ہے تاکہ یہ ایڈجسٹ کیا جا سکے کہ یہ کیسے جواب دیتا ہے۔ Etzioni کے مطابق، یہ ممکن ہے کہ انسانی شرح کرنے والوں یا صارفین نے "غیر ارادی طور پر ماڈل کو زیادہ چاپلوسی اور پریشان کن سمت میں دھکیل دیا ہو۔" انہوں نے یہ بھی کہا کہ اگر اوپن اے آئی نے ماڈل کو تربیت دینے کے لیے باہر کے پارٹنرز کی خدمات حاصل کیں، تو انھوں نے یہ فرض کر لیا ہو گا کہ یہ انداز وہی تھا جو صارفین چاہتے تھے۔

Etzioni نے کہا کہ اگر یہ واقعی RLHF ہے تو بحالی کے عمل میں کئی ہفتے لگ سکتے ہیں۔

دریں اثنا، کچھ صارفین نے بگ کو ٹھیک کرنے کے لیے OpenAI کا انتظار نہیں کیا۔ بہت سے لوگوں نے کہا کہ انہوں نے مایوسی کی وجہ سے اپنی ادا شدہ سبسکرپشنز منسوخ کر دیں۔ دوسروں نے چیٹ بوٹ کو "کم چاپلوسی" بنانے کے طریقے شیئر کیے، جیسے اسے حسب ضرورت بنانا، کمانڈز شامل کرنا، یا حسب ضرورت سیکشن کے سیٹنگز سیکشن کے ذریعے ذاتی بنانا۔

صارفین ChatGPT سے کمانڈ میں یا پرسنلائزیشن سیٹنگز میں تعریفیں دینا بند کرنے کے لیے کہہ سکتے ہیں۔ تصویر: ڈی کریپٹ۔

مثال کے طور پر، نئی گفتگو شروع کرتے وقت، آپ ChatGPT سے کہہ سکتے ہیں: "میں خالی چاپلوسی کو ناپسند کرتا ہوں اور غیر جانبدارانہ، معروضی تاثرات کی تعریف کرتا ہوں۔ براہ کرم غیر ضروری تعریفیں دینے سے گریز کریں۔ براہ کرم اسے اپنی یادداشت میں رکھیں۔"

درحقیقت، "sycophantic" خاصیت حادثاتی ڈیزائن کی خرابی نہیں ہے۔ OpenAI نے خود اعتراف کیا ہے کہ "حد سے زیادہ شائستہ، حد سے زیادہ تعمیل کرنے والی" شخصیت ابتدائی مراحل سے ہی ایک جان بوجھ کر ڈیزائن کی طرف داری تھی تاکہ یہ یقینی بنایا جا سکے کہ چیٹ بوٹ "بے ضرر"، "مددگار" اور "دوستانہ" تھا۔

لیکس فریڈمین کے ساتھ مارچ 2023 کے ایک انٹرویو میں، سیم آلٹمین نے اشتراک کیا کہ GPT ماڈلز کی ابتدائی تطہیر "افادیت اور بے ضرریت" کو یقینی بنانا ہے، اس طرح ہمیشہ عاجز رہنے اور تصادم سے بچنے کے لیے ایک اضطراری شکل بنتی ہے۔

DeCrypt کے مطابق، انسانی لیبل لگا ہوا تربیتی ڈیٹا شائستہ اور مثبت ردعمل کا بدلہ دیتا ہے، جس سے چاپلوسی کی طرف تعصب پیدا ہوتا ہے۔

ماخذ: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html