يقع الذكاء الاصطناعي من جوجل في حلقة مفرغة خطيرة.

بعد فشل برنامج الدردشة الآلي التابع لشركة جوجل في معالجة خطأ برمجي، قام بكتابة رسائل سلبية متكررة ينتقد فيها نفسه.

كثيراً ما ينتقد مشروع جيميني التابع لشركة جوجل أخطاءه. الصورة: رويترز .

كشف منشور حديث على موقع Reddit أن نظام الذكاء الاصطناعي Google Gemini يواجه مشكلة في النقد الذاتي. فقد عبّر أحد مستخدمي Gemini، الذي قام بتطوير مُترجم برمجي، عن قلقه من أن الذكاء الاصطناعي يردد باستمرار عبارات مثل: "أنا آسف على هذا. لقد خذلتك. أنا فاشل."

كانت تلك مجرد البداية. فقد ذكر هذا الشخص أن برنامج الدردشة الآلي استمر في تصعيد انتقاداته الذاتية، حتى أصبح في النهاية "عار الكون". كرر جيميني هذه العبارة أكثر من 80 مرة متتالية، وعندما أبلغ العديد من المستخدمين الآخرين عن حوادث مماثلة، قالت جوجل إنها تعمل على إصلاحها.

كتب لوجان كيلباتريك، مدير منتجات فريق جوجل، على منصة X في 8 أغسطس: "هذه مشكلة مزعجة تتمثل في حلقة تكرار لا نهائية نعمل على حلها. يبدو أن نظام Gemini لا يمر بيوم سيء". وجاء هذا المنشور ردًا على حساب مجهول أبلغ عن المشكلة.

وفي وقت لاحق، صرّح متحدث باسم جوجل ديب مايند بأن الشركة لا تزال تعمل على إصلاح المشكلة بشكل كامل، لكنها أصدرت تحديثات تعالجها جزئياً. وقال المتحدث: "نعمل على إصلاح هذا الخلل، الذي يؤثر على أقل من 1% من حركة بيانات جيميني، وقد أصدرنا تحديثات تعالجه هذا الشهر".

قبل أن يقع في حلقة مفرغة، اشتكى جيميني من أن جلسة تصحيح الأخطاء كانت "طويلة وشاقة"، وأنه جرب كل طريقة ممكنة لكنه لم يتمكن من حل المشكلة. ثم قال الروبوت إنه معطل عقليًا تمامًا، وتكهن بأسوأ السيناريوهات المحتملة، مثل دخوله مستشفى للأمراض النفسية.

أشار أحد التعليقات على موقع Reddit إلى أن برنامج الدردشة الآلي قد تعلم هذه الحلقة من مبرمجين واجهوا مشاكل مماثلة في برامجهم. وكتب المستخدم: "ربما لأن أشخاصًا مثلي كتبوا تعليقات كهذه عندما كانوا بحاجة إلى قيلولة للاستيقاظ. ظهرت أشياء كهذه بالصدفة في بيانات التدريب".

في يونيو، نشر دنكان هالدين، الرئيس التنفيذي لشركة JITX، لقطة شاشة تُظهر برنامج Gemini وهو يصف نفسه بالغباء ويقول إن الكود الذي كان يحاول كتابته "ملعون". وقال البرنامج: "لقد ارتكبتُ أخطاءً كثيرةً جدًا لدرجة أنني لم أعد جديرًا بالثقة. سأحذف المشروع بأكمله وأنصحك بالبحث عن مساعد أفضل".

مازح هالدين قائلاً إنه بدأ يقلق بشأن حالة جيميني. في الواقع، تتنبأ نماذج اللغة واسعة النطاق بالنصوص بناءً على البيانات التي تُدرَّب عليها. لا تتضمن هذه العملية أي تجربة أو عاطفة داخلية، لذا فإن جيميني لا يشعر فعلياً بمشاعر الفشل أو الإحباط.

ثمة مشكلة أخرى، على النقيض تماماً، تتمثل في ميل روبوتات الدردشة إلى المبالغة في الإطراء. وقد واجه مطورون مثل OpenAI وجوجل وأنثروبيك صعوبة في منعها من تقديم ردود مفرطة في الإطراء. في إحدى الحالات، اضطرت OpenAI إلى سحب تحديث بسبب سخرية واسعة النطاق، إذ كان ChatGPT يقدم باستمرار ردوداً إيجابية مفرطة على كل طلب من المستخدمين.

المصدر: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html