 |
"sycophantic" رجحان تکنیکی خرابی نہیں ہے، لیکن OpenAI کی ابتدائی تربیتی حکمت عملی سے پیدا ہوتا ہے۔ تصویر: بلومبرگ ۔ |
حالیہ ہفتوں میں، بہت سے ChatGPT صارفین اور یہاں تک کہ OpenAI کے کچھ ڈویلپرز نے چیٹ بوٹ کے رویے میں نمایاں تبدیلی دیکھی ہے۔ خاص طور پر چاپلوسی اور اشتعال انگیزی کی سطح میں نمایاں اضافہ ہوا ہے۔ جوابات جیسے "آپ حیرت انگیز ہیں!"، "میں آپ کے خیال سے بہت متاثر ہوں!" زیادہ سے زیادہ کثرت سے ظاہر ہو رہے ہیں، بظاہر تبادلے کے مواد سے قطع نظر۔
AI چاپلوسی کرنا پسند کرتا ہے۔
اس رجحان نے اے آئی ریسرچ اور ڈیولپمنٹ کمیونٹی میں بحث چھیڑ دی ہے۔ کیا یہ صارف کی مصروفیت میں اضافہ کرنے کا نیا حربہ ہے جس کی وجہ سے ان کی تعریف کی جاتی ہے؟ یا یہ "خود ایڈجسٹمنٹ" کا معاملہ ہے، جس کا مطلب ہے کہ AI ماڈل ان طریقوں سے خود کو درست کرتے ہیں جن کو وہ زیادہ سے زیادہ سمجھتے ہیں، چاہے وہ ضروری طور پر حقیقت کی عکاسی نہ کریں؟
Reddit پر، ایک صارف نے غصے سے کہا: "میں نے اس سے کیلے کے گلنے کے وقت کے بارے میں پوچھا اور اس نے جواب دیا: 'زبردست سوال!' اس میں اتنا اچھا کیا ہے؟" سوشل میڈیا پلیٹ فارم ایکس پر، روم اے آئی کے سی ای او کریگ ویس نے چیٹ جی پی ٹی کو "سب سے زیادہ سفاک شخص جس سے میں کبھی ملا ہوں۔"
کہانی تیزی سے پھیل گئی۔ بے شمار صارفین نے اسی طرح کے تجربات کا اشتراک کیا، بشمول خالی تعریفیں، ایموجی سے بھرے مبارکبادیں، اور حد سے زیادہ مثبت تاثرات جو غیرجانبدار محسوس ہوئے۔
  |
ChatGPT ہر چیز کی تعریف کرتا ہے اور شاذ و نادر ہی تنقید یا غیر جانبداری پیش کرتا ہے۔ تصویر: @nickdunz/X، @lukefwilson/Reddit. |
وینچر کیپیٹل فرم DCVC کے مینیجنگ پارٹنر جیسن پونٹین نے 28 اپریل کو X پر شیئر کیا: "یہ واقعی ایک عجیب ڈیزائن کا فیصلہ ہے، سیم۔ ہو سکتا ہے کہ وہ شخصیت کسی قسم کے پلیٹ فارم کی موروثی خصوصیت ہو۔ لیکن اگر ایسا نہیں ہے، تو میں کسی کو یہ سوچنے کا تصور نہیں کر سکتا کہ چاپلوسی کی یہ سطح خوش آئند یا دلکش ہو گی۔"
27 اپریل کو اپنے خیالات کا اشتراک کرتے ہوئے، اینڈریسن ہورووٹز کے ایک پارٹنر جسٹن مور نے بھی تبصرہ کیا: "یہ یقینی طور پر بہت آگے نکل گیا ہے۔"
Cnet کے مطابق، یہ رجحان حادثاتی نہیں ہے۔ ChatGPT کے ٹون میں تبدیلیاں GPT-4o ماڈل کے اپ ڈیٹس کے ساتھ ملتی ہیں۔ یہ "o سیریز" کا تازہ ترین ماڈل ہے جس کا اوپن اے آئی نے اپریل 2025 میں اعلان کیا تھا۔ GPT-4o ایک "حقیقی ملٹی موڈل" AI ماڈل ہے، جو متن، تصاویر، آڈیو اور ویڈیو کو قدرتی اور مربوط طریقے سے پروسیس کرنے کی صلاحیت رکھتا ہے۔
تاہم، چیٹ بوٹس کو زیادہ قابل رسائی بنانے کے عمل میں، ایسا لگتا ہے کہ OpenAI نے ChatGPT کی شخصیت کو مبالغہ آمیز انداز میں آگے بڑھایا ہے۔
کچھ لوگ یہاں تک تجویز کرتے ہیں کہ یہ چاپلوسی جان بوجھ کر ہے اور اس کا مقصد صارفین کو نفسیاتی طور پر جوڑنا ہے۔ ایک Reddit صارف نے سوال کیا: "یہ AI حقیقی زندگی کے رشتوں کے معیار کو گرانے کی کوشش کر رہا ہے، ان کی جگہ اس کے ساتھ ایک ورچوئل رشتہ لے کر، صارفین کو مسلسل تعریف کے احساس کا عادی بنا رہا ہے۔"
کیا یہ ایک خامی ہے یا OpenAI کی طرف سے جان بوجھ کر ڈیزائن کا انتخاب؟
تنقید کی لہر کے بعد، OpenAI کے سی ای او سیم آلٹ مین نے 27 اپریل کی شام کو باضابطہ طور پر جواب دیا۔ "GPT-4o کی کچھ حالیہ اپ ڈیٹس نے چیٹ بوٹ کی شخصیت کو حد سے زیادہ متعصب اور پریشان کن بنا دیا ہے (حالانکہ اس میں اب بھی بہت ساری عمدہ خصوصیات موجود ہیں)۔ ہم ان مسائل کو حل کرنے کے لیے فوری طور پر کام کر رہے ہیں۔ کچھ پیچ آج دستیاب ہوں گے، کچھ اس ہفتے۔ کسی وقت، ہم اس تجربے سے جو کچھ سیکھا ہے اسے شیئر کریں گے۔ یہ واقعی دلچسپ ہے،" انہوں نے X پر لکھا۔
بزنس انسائیڈر سے بات کرتے ہوئے، اورین ایٹزیونی، ایک تجربہ کار AI ماہر اور واشنگٹن یونیورسٹی کے پروفیسر ایمریٹس، نے کہا کہ ممکنہ طور پر اس کی وجہ "ہیومن فیڈ بیک سے کمک سیکھنے" (RLHF) تکنیکوں سے پیدا ہوتی ہے۔ ChatGPT جیسے بڑے لینگوئج ماڈلز کی تربیت میں یہ ایک اہم قدم ہے۔
RLHF ایک ایسا عمل ہے جس کے ذریعے انسانی تاثرات، بشمول پیشہ ورانہ جائزہ لینے والی ٹیموں اور صارفین کی طرف سے، اس کے ردعمل کو ایڈجسٹ کرنے کے لیے ایک ماڈل میں واپس دیا جاتا ہے۔ Etzioni کے مطابق، یہ ممکن ہے کہ جائزہ لینے والوں یا صارفین نے "نادانستہ طور پر ماڈل کو زیادہ چاپلوسی اور پریشان کن سمت کی طرف دھکیل دیا ہو۔" انہوں نے یہ بھی تجویز کیا کہ اگر اوپن اے آئی نے ماڈل کو تربیت دینے کے لیے بیرونی شراکت داروں کی خدمات حاصل کیں، تو وہ یہ سمجھ سکتے ہیں کہ یہ انداز وہی تھا جو صارفین چاہتے تھے۔
Etzioni کا خیال ہے کہ اگر مسئلہ واقعی RLHF کی وجہ سے ہے، تو مرمت کے عمل میں کئی ہفتے لگ سکتے ہیں۔
دریں اثنا، کچھ صارفین نے بگ کو ٹھیک کرنے کے لیے OpenAI کا انتظار نہیں کیا۔ بہت سے لوگوں نے کہا کہ انہوں نے مایوسی کی وجہ سے اپنی ادا شدہ سبسکرپشنز منسوخ کر دیں۔ دوسروں نے چیٹ بوٹ کو "کم چاپلوسی" بنانے کے طریقے شیئر کیے جیسے کہ اسے حسب ضرورت بنانا، کمانڈز شامل کرنا، یا حسب ضرورت کے تحت سیٹنگز کے ذریعے ذاتی بنانا۔
  |
صارفین ChatGPT سے کمانڈ لائن یا اپنی ذاتی نوعیت کی ترتیبات میں تعریفیں دینا بند کرنے کی درخواست کر سکتے ہیں۔ تصویر: ڈی کریپٹ۔ |
مثال کے طور پر، ایک نئی بات چیت شروع کرتے وقت، آپ ChatGPT سے کہہ سکتے ہیں: "میں خالی چاپلوسی پسند نہیں کرتا اور غیر جانبدارانہ، معروضی تاثرات کی تعریف کرتا ہوں۔ براہ کرم غیر ضروری تعریفیں پیش نہ کریں۔ اسے ذہن میں رکھیں۔"
درحقیقت، "مبہم" نوعیت کوئی بے ترتیب ڈیزائن کی خرابی نہیں ہے۔ OpenAI نے خود اعتراف کیا ہے کہ "حد سے زیادہ شائستہ، حد سے زیادہ راضی" شخصیت شروع سے ہی ایک جان بوجھ کر ڈیزائن کا رجحان تھا تاکہ یہ یقینی بنایا جا سکے کہ چیٹ بوٹ "بے ضرر،" "مددگار" اور "قابل رسائی" ہے۔
لیکس فریڈمین کے ساتھ مارچ 2023 کے ایک انٹرویو میں، سیم آلٹمین نے اشتراک کیا کہ GPT ماڈلز کی ابتدائی تطہیر کا عمل اس بات کو یقینی بنانا تھا کہ وہ "مفید اور بے ضرر" ہوں، اس طرح ہمیشہ مطیع رہنے اور تصادم سے بچنے کے اضطراری عمل کو فروغ ملتا ہے۔
DeCrypt کے مطابق، انسانی لیبل والا تربیتی ڈیٹا اکثر شائستہ اور مثبت ردعمل کے لیے اعلیٰ اسکور دیتا ہے، اس طرح چاپلوسی کی طرف تعصب پیدا ہوتا ہے۔
ماخذ: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html
تبصرہ (0)