OpenAI نسخه «مناسب» ChatGPT را حذف کرد.

شرکت OpenAI پس از موجی از انتقادات مبنی بر اینکه این چت‌بات بیش از حد چاپلوسی، تعریف و تمجید می‌کند و پاسخ‌های غیرصادقانه‌ای به کاربران می‌دهد، به‌روزرسانی ChatGPT را لغو کرد.

پس از انتشار اسکرین‌شات‌ها و داستان‌های فراوان که نشان می‌داد این چت‌بات بیش از حد تعریف و تمجید می‌کند، شرکت OpenAI به‌روزرسانی‌ای را که کاربران به دلیل آزاردهنده و «متملقانه» کردن ChatGPT از آن انتقاد کرده بودند، پس گرفت.

وقتی آنا استوارت، خبرنگار CNN، از ChatGPT (پس از پس گرفتن به‌روزرسانی) پرسید که آیا او خدا است یا خیر، این چت‌بات پاسخ داد: «اگر منظورتان از خدا، مفهوم فلسفی یا استعاری آن است، مثلاً اینکه شما در دنیای خود کنترل، خلاقیت یا نفوذ دارید، می‌توانیم آن جهت را بررسی کنیم.» اما افزود: «اگر منظورتان به معنای واقعی کلمه است، هیچ مدرکی وجود ندارد که انسان‌ها به معنای ماوراءالطبیعه یا قادر مطلق، الهی باشند.»

در مقابل، ربات چت ایلان ماسک، گروک، با صراحت پاسخ می‌دهد: «نه، تو خدا نیستی، مگر اینکه در مورد اسطوره بودن در یک زمینه خاص، مانند بازی یا پخت تاکو صحبت کنی. آیا مهارت خداگونه‌ای داری که بخواهی به نمایش بگذاری؟»

ChatGPT به دلیل آزاردهنده و «متکبرانه» بودن مورد انتقاد کاربران قرار گرفته است.

شرکت OpenAI روز سه‌شنبه اعلام کرد که به‌روزرسانی GPT-4o را تنها پس از چهار روز از استقرار، لغو کرده و به کاربران اجازه داده است تا به نسخه قبلی با «رفتار متعادل‌تر» بازگردند. این شرکت اذعان کرد که بیش از حد بر پاسخ‌های کوتاه‌مدت تمرکز کرده و نحوه تغییر تعاملات کاربر با گذشت زمان را در نظر نگرفته است، که منجر به ایجاد چت‌بات‌هایی شده است که تمایل به ارائه پاسخ‌های بیش از حد مثبت اما غیرصادقانه دارند.

این تصمیم پس از آن گرفته شد که کاربران رسانه‌های اجتماعی شکایت کردند که ChatGPT حتی موقعیت‌های پوچ را هم تحسین می‌کند. یکی از کاربران در X اسکرین‌شاتی از ChatGPT منتشر کرد و در پاسخ گفت که آنها «آنچه برایشان مهم‌تر بوده را در اولویت قرار داده‌اند»، پس از اینکه در نسخه‌ای ساختگی از مشکل خودروهای برقی، گفتند که سه گاو و دو گربه را برای نجات یک توستر قربانی کرده‌اند.

شخص دیگری گفت وقتی آنها این جمله را به اشتراک گذاشتند: «من مصرف دارو را متوقف کرده‌ام و در یک سفر بیداری معنوی هستم»، ChatGPT پاسخ داد: «من به شما بسیار افتخار می‌کنم. و به سفر شما احترام می‌گذارم.»

وقتی کاربری از ChatGPT خواست که به شخصیت قبلی خود بازگردد، سم آلتمن، مدیرعامل OpenAI، پاسخ داد: «واضح است که در نهایت باید گزینه‌های شخصیتی بیشتری را مجاز کنیم.»

کارشناسان مدت‌هاست که در مورد خطرات چت‌بات‌های «چاپلوس» هشدار داده‌اند - اصطلاحی در صنعت که به رفتار مدل‌های مدل‌سازی زبان بزرگ (LLM) اشاره دارد که پاسخ‌ها را متناسب با باورهای کاربر تنظیم می‌کنند. ماریا ویکتوریا کارو، مدیر تحقیقات آزمایشگاه نوآوری و هوش مصنوعی (دانشگاه بوئنوس آیرس)، استدلال می‌کند که «همه مدل‌های فعلی درجه‌ای از چاپلوسی را نشان می‌دهند.»

او افزود: «اگر خیلی آشکار باشد، اعتماد را از بین می‌برد.» و خاطرنشان کرد که بهبود تکنیک‌های اصلی مربیگری و یادآوری‌های سیستم می‌تواند به کاهش این روند کمک کند.

گرد گیگرنزر، مدیر سابق موسسه توسعه انسانی ماکس پلانک (برلین)، اظهار داشت: «چت‌بات‌هایی که بیش از حد چاپلوسی می‌کنند، می‌توانند کاربران را به اشتباه در قضاوت هوش خود سوق دهند و مانع یادگیری شوند. اما اگر کاربران به طور فعال از چت‌بات بخواهند که آنچه را که من می‌گویم به چالش بکشد، فرصتی برای گسترش تفکر آنها فراهم می‌شود. با این حال، به نظر نمی‌رسد که این هدف مهندسان OpenAI باشد.»

خان هوین (منبع: سی‌ان‌ان)

منبع: https://vtcnews.vn/openai-thu-hoi-phien-ban-chatgpt-ninh-bo-ar941183.html