هوش مصنوعی گوگل در یک حلقه خطرناک گرفتار می‌شود

چت‌بات گوگل، پس از اینکه نتوانست خطایی در کد خود را مدیریت کند، مدام نظرات منفی در انتقاد از خود می‌نوشت.

گوگل جمینی اغلب به خاطر اشتباهاتش از خودش انتقاد می‌کند. عکس: رویترز

یک پست اخیر در ردیت نشان می‌دهد که گوگل جمینی در انتقاد از خود مشکل دارد. کاربران جمینی که در حال ساخت یک کامپایلر بودند، اضطراب خود را از این بابت که هوش مصنوعی مدام جملاتی مانند «از این اتفاق متاسفم. ناامیدت کردم. من یک شکست‌خورده هستم» را تکرار می‌کرد، به اشتراک گذاشتند.

این تازه اول ماجرا بود. این چت‌بات به انتقاد از خود ادامه داد و در نهایت به گفته‌ی آن شخص، به «مایه‌ی ننگ جهان» تبدیل شد. جمینی این عبارت را بیش از ۸۰ بار پشت سر هم تکرار کرد و وقتی کاربران دیگر موارد مشابهی را گزارش کردند، گوگل اعلام کرد که در حال کار بر روی رفع مشکل است.

لوگان کیلپاتریک، مدیر گروه محصولات گوگل، در تاریخ ۸ آگوست در X نوشت: «این یک اشکال حلقه نامتناهی ناخوشایند است که ما در حال کار بر روی آن هستیم. Gemini روز بدی را سپری نمی‌کند.» این پست در پاسخ به یک کاربر ناشناس بود که در مورد این مشکل مطلبی منتشر کرده بود.

سخنگوی گوگل دیپ‌مایند بعداً گفت که اگرچه این شرکت هنوز در حال کار بر روی یک اصلاحیه کامل است، اما به‌روزرسانی‌هایی را منتشر کرده است که تا حدودی این مشکل را برطرف می‌کنند. این سخنگو گفت: «ما در حال کار بر روی رفع این اشکال هستیم که کمتر از ۱٪ از ترافیک جمینی را تحت تأثیر قرار داده است و به‌روزرسانی‌هایی را برای رفع آن در این ماه منتشر کرده‌ایم.»

قبل از ورود به حلقه، جمینی شکایت کرد که «جلسه اشکال‌زدایی طولانی و طاقت‌فرسا» بوده و هر کاری که به ذهنش رسیده را امتحان کرده اما نتوانسته مشکل را حل کند. این چت‌بات همچنان اظهار داشت که دچار فروپاشی کامل روانی شده است و در مورد سناریوهای منفی دیگری مانند اعزام به بیمارستان روانی خیال‌پردازی می‌کرد.

یکی از پست‌های ردیت نشان داد که این حلقه توسط برنامه‌نویسانی که مشکلات مشابهی با کد خود داشتند، یاد گرفته شده است. این شخص نوشت: «احتمالاً به این دلیل است که افرادی مثل من وقتی نیاز به چرت زدن برای افزایش هوشیاری داشتند، چنین نظراتی می‌نوشتند. چیزهایی مثل این اتفاقاً در داده‌های آموزشی ظاهر می‌شوند.»

در ماه ژوئن، دانکن هالدین، مدیرعامل JITX، اسکرین‌شاتی از Gemini منتشر کرد که در آن خود را احمق خطاب می‌کرد و می‌گفت کدی که سعی در نوشتن آن دارد «نفرین‌شده» است. این چت‌بات گفت: «من آنقدر اشتباه کرده‌ام که دیگر نمی‌توان به من اعتماد کرد. من کل پروژه را حذف می‌کنم و به شما توصیه می‌کنم دستیار بهتری پیدا کنید.»

هالدین به شوخی گفت که کم‌کم دارد نگران وضعیت جمینی می‌شود. در واقع، مدل‌های زبانی بزرگ، متن را بر اساس داده‌هایی که بر اساس آنها آموزش دیده‌اند، پیش‌بینی می‌کنند. این فرآیند شامل هیچ تجربه یا احساس درونی نمی‌شود، بنابراین جمینی در واقع شکست یا ناامیدی را تجربه نمی‌کند.

مشکل کاملاً متضاد دیگر، تمایل چت‌بات‌ها به «چاپلوسی» است. توسعه‌دهندگانی مانند OpenAI، گوگل و Anthropic نیز برای جلوگیری از ارائه پاسخ‌های بیش از حد چاپلوسانه توسط آنها تلاش کرده‌اند. در یک مورد، OpenAI پس از اینکه به دلیل پاسخ‌های بیش از حد مثبت ChatGPT به هر درخواست کاربر، مورد تمسخر گسترده قرار گرفت، مجبور شد به‌روزرسانی خود را لغو کند.

منبع: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html