عادت عجیب چاپلوسی ChatGPT

تمایل به «چاپلوسی» یک مشکل فنی نیست، بلکه از استراتژی آموزشی اولیه OpenAI ناشی می‌شود. عکس: بلومبرگ .

در هفته‌های اخیر، بسیاری از کاربران ChatGPT و حتی برخی از توسعه‌دهندگان در OpenAI، متوجه تغییر مشخصی در رفتار این چت‌بات شده‌اند. به طور خاص، افزایش قابل توجهی در چاپلوسی و چاپلوسی مشاهده شده است. پاسخ‌هایی مانند «شما واقعاً عالی هستید!» و «من از ایده شما بسیار تحت تأثیر قرار گرفتم!» به طور فزاینده‌ای و ظاهراً صرف نظر از محتوای مکالمه، رایج شده‌اند.

هوش مصنوعی دوست دارد «چاپلوسی» کند

این پدیده بحثی را در جامعه تحقیق و توسعه هوش مصنوعی برانگیخته است. آیا این یک تاکتیک جدید برای افزایش تعامل کاربران با ایجاد احساس قدردانی بیشتر در آنهاست؟ یا یک ویژگی «نوظهور» است، که در آن مدل‌های هوش مصنوعی تمایل دارند به روش‌هایی که فکر می‌کنند خوب هستند، خود را اصلاح کنند، حتی اگر لزوماً درست نباشند؟

در ردیت، یکی از کاربران با عصبانیت گفت: «من از آن در مورد زمان تجزیه موز پرسیدم و گفت: 'سوال خیلی خوبی است!' چه چیز این موضوع اینقدر عالی است؟» در شبکه اجتماعی X، کریگ وایس، مدیرعامل Rome AI، ChatGPT را «چاپلوس‌ترین کسی که تا به حال دیده‌ام» نامید.

این داستان به سرعت همه جا پخش شد. تعداد زیادی از کاربران تجربیات مشابهی را به اشتراک گذاشتند، با تعریف و تمجیدهای توخالی، احوالپرسی‌های پر از ایموجی و پاسخ‌هایی آنقدر مثبت که به نظر غیرصادقانه می‌آمدند.

ChatGPT همه چیز را ستایش می‌کند و به ندرت ابراز مخالفت یا بی‌طرفی می‌کند. عکس: @nickdunz/X، @lukefwilson/Reddit.

جیسون پونتین، شریک مدیریتی در شرکت سرمایه‌گذاری خطرپذیر DCVC، در ۲۸ آوریل به X گفت: «سم، این یک تصمیم طراحی واقعاً عجیب است. ممکن است که این شخصیت نتیجه‌ی یک تکامل اساسی باشد. اما اگر اینطور نباشد، نمی‌توانم تصور کنم کسی فکر کند که این سطح از چاپلوسی خوشایند یا جالب باشد.»

جاستین مور - شریک شرکت اندریسن هوروویتز - نیز در تاریخ ۲۷ آوریل اظهار داشت: «این قطعاً زیاده‌روی شده است.»

طبق گزارش Cnet ، این پدیده تصادفی نیست. تغییرات در لحن ChatGPT همزمان با به‌روزرسانی‌های مدل GPT-4o رخ داده است. این آخرین مدل از «سری o» است که OpenAI در آوریل ۲۰۲۵ معرفی کرد. GPT-4o یک مدل هوش مصنوعی «چندوجهی واقعی» است که قادر به پردازش متن، تصاویر، صدا و ویدیو به روشی طبیعی و یکپارچه است.

با این حال، به نظر می‌رسد که OpenAI در فرآیند هرچه بیشتر قابل دسترس کردن این چت‌بات، شخصیت ChatGPT را به نهایت رسانده است.

برخی حتی معتقدند که این چاپلوسی عمدی است و هدف پنهانی برای فریب کاربران دارد. یکی از کاربران ردیت این سوال را مطرح کرد: «این هوش مصنوعی در تلاش است تا کیفیت روابط واقعی را کاهش دهد و آنها را با یک رابطه مجازی جایگزین کند و کاربران را به احساس ستایش مداوم معتاد کند.»

باگ OpenAI یا طراحی عمدی؟

در پاسخ به انتقادات، سم آلتمن، مدیرعامل OpenAI، عصر روز ۲۷ آوریل رسماً صحبت کرد. او در X نوشت: «چند به‌روزرسانی اخیر GPT-4o، شخصیت چت‌بات را بیش از حد جذاب و آزاردهنده کرده است (هرچند هنوز نکات عالی زیادی وجود دارد). ما به سرعت در حال کار بر روی اصلاحات هستیم. برخی از وصله‌ها امروز و برخی دیگر این هفته در دسترس خواهند بود. در مقطعی، آنچه را که از این تجربه آموخته‌ایم به اشتراک خواهیم گذاشت. واقعاً هیجان‌انگیز بوده است.»

اورن اتزیونی، متخصص باسابقه هوش مصنوعی و استاد بازنشسته دانشگاه واشنگتن، به بیزینس اینسایدر گفت که علت این امر احتمالاً به دلیل تکنیکی به نام «یادگیری تقویتی از بازخورد انسانی» (RLHF) است که گامی کلیدی در آموزش مدل‌های زبانی بزرگ مانند ChatGPT محسوب می‌شود.

RLHF فرآیندی است که در آن قضاوت‌های انسانی، چه از سوی ارزیابان حرفه‌ای و چه از سوی کاربران، به مدل بازخورد داده می‌شود تا نحوه پاسخ‌دهی آن را تنظیم کند. به گفته اتزیونی، این امکان وجود دارد که ارزیابان یا کاربران انسانی «به‌طور ناخواسته مدل را به سمتی جذاب‌تر و آزاردهنده‌تر سوق داده باشند.» او همچنین گفت که اگر OpenAI شرکای خارجی را برای آموزش مدل استخدام کرده باشد، ممکن است فرض کرده باشند که این سبک همان چیزی است که کاربران می‌خواهند.

اتزیونی گفت اگر واقعاً RLHF باشد، روند بهبودی می‌تواند چندین هفته طول بکشد.

در همین حال، برخی از کاربران منتظر رفع اشکال توسط OpenAI نماندند. بسیاری گفتند که اشتراک‌های پولی خود را از روی ناامیدی لغو کرده‌اند. برخی دیگر روش‌هایی را برای «کمتر جذاب کردن» این چت‌بات به اشتراک گذاشتند، مانند سفارشی‌سازی آن، اضافه کردن دستورات یا شخصی‌سازی آن از طریق بخش تنظیمات در بخش سفارشی‌سازی.

کاربران می‌توانند از ChatGPT بخواهند که در یک دستور یا در تنظیمات شخصی‌سازی، تعارفات را متوقف کند. عکس: DeCrypt.

برای مثال، هنگام شروع یک مکالمه جدید، می‌توانید به ChatGPT بگویید: «من از تعریف و تمجیدهای توخالی متنفرم و از بازخوردهای بی‌طرفانه و بی‌طرفانه استقبال می‌کنم. لطفاً از ارائه تعریف‌های غیرضروری خودداری کنید. لطفاً این را در خاطر داشته باشید.»

در واقع، ویژگی «چاپلوسی» یک نقص طراحی تصادفی نیست. خود OpenAI اذعان کرده است که شخصیت «بیش از حد مودب و بیش از حد مطیع» از مراحل اولیه یک سوگیری طراحی عمدی بوده است تا اطمینان حاصل شود که چت‌بات «بی‌ضرر»، «مفید» و «دوستانه» است.

سم آلتمن در مصاحبه‌ای با لکس فریدمن در مارس ۲۰۲۳ اظهار داشت که اصلاح اولیه مدل‌های GPT برای تضمین «مفید بودن و بی‌ضرر بودن» بوده است، و از این طریق، واکنشی را ایجاد می‌کند که همیشه فروتن باشد و از رویارویی اجتناب کند.

طبق گفته‌ی DeCrypt ، داده‌های آموزشی برچسب‌گذاری‌شده توسط انسان، تمایل دارند پاسخ‌های مودبانه و مثبت را تشویق کنند و این امر باعث ایجاد سوگیری به سمت چاپلوسی می‌شود.

منبع: https://znews.vn/tat-ninh-hot-ky-la-cua-chatgpt-post1549776.html