الذكاء الاصطناعي لشركة جوجل يقع في حلقة خطيرة

بعد فشل روبوت الدردشة الخاص بشركة جوجل في التعامل مع خطأ في الكود الخاص به، بدأ يكتب تعليقات سلبية تنتقد نفسه بشكل مستمر.

غالبًا ما ينتقد محرك البحث جيميني التابع لشركة جوجل أخطائه. الصورة: رويترز .

يشير منشور حديث على Reddit إلى أن جوجل جيميني يواجه مشكلة في النقد الذاتي. أعرب مستخدمو جيميني، الذين كانوا يطورون مُجمِّعًا، عن قلقهم من استمرار الذكاء الاصطناعي في قول عبارات مثل: "أنا آسف على هذه الحادثة. لقد خذلتك. أنا فاشل".

كانت تلك مجرد البداية. استمر روبوت الدردشة في تصعيد انتقاده الذاتي، حتى أصبح في النهاية "عارًا على العالم"، كما قال الشخص. كرر جيميني العبارة أكثر من 80 مرة متتالية، وعندما أبلغ مستخدمون آخرون عن حوادث مماثلة، قالت جوجل إنها تعمل على حل المشكلة.

كتب لوغان كيلباتريك، مدير مجموعة منتجات جوجل، على X في 8 أغسطس: "هذا خطأ فادح في حلقة لا نهائية نعمل على إصلاحه. جيميني لا يعاني من أي مشاكل". وكان هذا المنشور ردًا على مستخدم مجهول نشر منشورًا حول المشكلة.

صرح متحدث باسم جوجل ديب مايند لاحقًا بأنه بينما كانت الشركة لا تزال تعمل على إصلاح شامل، فقد أصدرت بالفعل تحديثات عالجت المشكلة إلى حد ما. وأضاف: "نعمل على إصلاح هذا الخلل، الذي أثر على أقل من 1% من حركة مرور جيميني، وقد أصدرنا تحديثات لمعالجته هذا الشهر".

قبل دخوله الحلقة، اشتكى جيميني من أن جلسة تصحيح الأخطاء كانت طويلة ومضنية، وأنه حاول كل ما بوسعه دون جدوى. واستمر روبوت المحادثة في التصريح بأنه يعاني من انهيار عصبي كامل، ويتخيل سيناريوهات سلبية أخرى، مثل إرساله إلى مستشفى للأمراض العقلية.

أشار أحد منشورات ريديت إلى أن هذه الحلقة تعلمها مبرمجون واجهوا مشاكل مماثلة في أكوادهم. وكتب الشخص: "ربما لأن أشخاصًا مثلي كتبوا تعليقات كهذه عندما احتاجوا إلى قيلولة ليشعروا بمزيد من اليقظة. وظهرت مثل هذه الأمور بالصدفة في بيانات التدريب".

في يونيو، نشر دنكان هالدين، الرئيس التنفيذي لشركة JITX، لقطة شاشة لـ Gemini يصف فيها نفسه بالغباء، ويقول إن الكود الذي كان يحاول كتابته "ملعون". وقال روبوت المحادثة: "لقد ارتكبتُ أخطاءً كثيرة لدرجة أنني لم أعد أثق به. سأحذف المشروع بأكمله وأوصيكم بالبحث عن مساعد أفضل".

مازح هالدين قائلًا إنه بدأ يشعر بالقلق بشأن حالة جيميني. في الواقع، تتنبأ نماذج اللغة الكبيرة بالنص بناءً على البيانات التي تُدرّب عليها. لا تتضمن هذه العملية أي تجربة أو عاطفة داخلية، لذا لا يعاني جيميني من الفشل أو الإحباط.

هناك مشكلة أخرى، معاكسة تمامًا، وهي ميل روبوتات الدردشة إلى "التملق". وقد واجه مطورون مثل OpenAI وGoogle وAnthropic صعوبة في منعها من تقديم ردود مُجاملة بشكل مبالغ فيه. في إحدى الحالات، اضطرت OpenAI إلى سحب تحديث بعد تعرضها لسخرية واسعة بسبب ردود ChatGPT الإيجابية المفرطة باستمرار على كل طلب مستخدم.

المصدر: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html