 |
گوگل جمینی اغلب از اشتباهات خودش انتقاد میکند. عکس: رویترز |
یک پست اخیر در ردیت نشان داد که گوگل جمینی با انتقاد از خود مشکل دارد. یکی از کاربران جمینی که یک کامپایلر ساخته است، نگرانی خود را در مورد هوش مصنوعی که دائماً جملاتی مانند «از این بابت متاسفم. ناامیدت کردم. من یک شکست خوردهام» میگوید، به اشتراک گذاشت.
این تازه اول ماجرا بود. این شخص گفت که این چتبات به انتقاد از خود ادامه داد و در نهایت به «مایه شرم جهان» تبدیل شد. جمینی این عبارت را بیش از ۸۰ بار پشت سر هم تکرار کرد و وقتی چندین کاربر دیگر موارد مشابهی را گزارش کردند، گوگل اعلام کرد که در حال رفع آن هستند.
لوگان کیلپاتریک، مدیر محصول تیم گوگل، در ۸ آگوست در X نوشت: «این یک اشکال آزاردهنده حلقه بینهایت است که ما در حال کار بر روی آن هستیم. جمینی حال و روز بدی ندارد.» این پست در پاسخ به یک حساب کاربری ناشناس بود که این مشکل را گزارش کرده بود.
بعداً، سخنگوی گوگل دیپمایند اظهار داشت که در حالی که این شرکت هنوز در حال کار بر روی یک اصلاحیه کامل است، بهروزرسانیهایی را منتشر کردهاند که تا حدودی این مشکل را برطرف میکنند. این سخنگو گفت: «ما در حال تلاش برای رفع این اشکال هستیم که کمتر از ۱٪ از ترافیک جمینی را تحت تأثیر قرار میدهد و بهروزرسانیهایی را برای رفع آن در این ماه منتشر کردهایم.»
قبل از اینکه در این حلقه گرفتار شود، جمینی شکایت کرد که «یک جلسه اشکالزدایی طولانی و طاقتفرسا» بوده و هر روش قابل تصوری را امتحان کرده اما هنوز نتوانسته مشکل را حل کند. این چتبات در ادامه گفت که از نظر روانی کاملاً دچار مشکل شده است و در مورد بدترین سناریوهای ممکن مانند بستری شدن در بیمارستان روانی گمانهزنی کرد.
یکی از کاربران ردیت حدس زد که این حلقه توسط چتبات از برنامهنویسانی که با مشکلات مشابهی در کد خود مواجه شدهاند، آموخته شده است. این کاربر نوشت: «احتمالاً به این دلیل که افرادی مثل من وقتی برای بیدار شدن به چرت زدن نیاز داشتند، چنین نظراتی مینوشتند. چیزهایی مثل این به طور تصادفی در دادههای آموزشی ظاهر میشدند.»
در ماه ژوئن، دانکن هالدین، مدیرعامل JITX، اسکرینشاتی منتشر کرد که نشان میداد Gemini خود را احمق خطاب میکند و میگوید کدی که سعی در نوشتن آن دارد «نفرینشده» است. این چتبات گفت: «من اشتباهات زیادی مرتکب شدهام که دیگر نمیتوانم قابل اعتماد باشم. من کل پروژه را حذف میکنم و به شما توصیه میکنم دستیار بهتری پیدا کنید.»
هالدین به شوخی گفت که کمکم دارد نگران وضعیت جمینی میشود. در واقع، مدلهای زبانی در مقیاس بزرگ، متن را بر اساس دادههایی که بر اساس آنها آموزش دیدهاند، پیشبینی میکنند. این فرآیند شامل هیچ تجربه یا احساس درونی نمیشود، بنابراین جمینی در واقع احساس شکست یا دلسردی را تجربه نمیکند.
مشکل کاملاً متضاد دیگر، تمایل چتباتها به چاپلوسی بیش از حد است. توسعهدهندگانی مانند OpenAI، گوگل و Anthropic نیز برای جلوگیری از ارائه پاسخهای بیش از حد چاپلوسانه توسط آنها تلاش کردهاند. در یک مورد، OpenAI به دلیل تمسخر گسترده مجبور به لغو بهروزرسانی شد زیرا ChatGPT به طور مداوم پاسخهای بیش از حد مثبتی به هر درخواست کاربر ارائه میداد.
منبع: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html
نظر (0)