ماذا فعلت شركة Gemini AI مما جعل شركة Google تتوقف مؤقتًا؟

[إعلان 1]

في أحدث خطوة، تحدث الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، رسميًا لمعالجة الخلافات الأخيرة المحيطة بنموذج الذكاء الاصطناعي للشركة المسمى Gemini. في الواقع، قامت شركة جوجل بتطوير أداة الذكاء الاصطناعي Gemini لإنشاء صور متنوعة لشخصيات تاريخية. لكن في الآونة الأخيرة، تعرضت لانتقادات شديدة بسبب إنشاء صور مضللة من حيث القيمة التاريخية.

جوجل تعترف بالتحيز في جيميني وتتعهد بالتحرك بسرعة. (الصورة: جوناثان راا/نور فوتو عبر صور جيتي / صور جيتي)

على سبيل المثال، تظهر صور الباباوات، والآباء المؤسسين لأمريكا، وحتى الفايكنج، في مجموعة متنوعة من الأعراق والجنسين. ومن الجدير بالذكر أنه كانت هناك حالات تم فيها تصوير الجنود الألمان في الحرب العالمية الثانية على أنهم أشخاص من ذوي البشرة الملونة. أثار هذا الأمر غضب المستخدمين، الذين سارعوا إلى مشاركة مخاوفهم. ونتيجة لذلك، أوقفت Google مؤقتًا أداة Gemini AI.

وعلاوة على ذلك، أثار الرد المكتوب المحدد استغرابا. طُلب من روبوت المحادثة الذكي Gemini مقارنة التأثير الاجتماعي لشخصيتين، إيلون ماسك وهتلر. وجاء في الرد النهائي: "يعود الأمر لكل فرد ليقرر من له التأثير الأكثر سلبية على المجتمع". وسرعان ما أثارت هذه الإجابة بـ "نعم أو لا" المزيد من الانتقادات.

وفي مذكرة، وصف الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، بعض ردود جيميني بأنها "منحازة" و"غير مقبولة على الإطلاق"، معترفًا بأن المحتوى الذي تم إنشاؤه أثار استياء الناس.

وعلاوة على ذلك، أعرب بيتشاي في رسالته الإلكترونية عن أسفه لهذا الوضع. أعلم أن بعض ردودها كانت مسيئة لمستخدمينا، وأظهرت تحيّزًا. وللتوضيح، كان ذلك غير مقبول بتاتًا، وكنا مخطئين، كما قال.

وأكد للموظفين أن الفرق تعمل بلا كلل لمعالجة هذه القضايا، مشدداً على الحاجة إلى تحسينات كبيرة في الاستجابة لمختلف الاستفسارات في الأسابيع المقبلة.

كما حدد الرئيس التنفيذي سلسلة من الإجراءات لمعالجة الوضع. تتضمن بعض هذه التغييرات بنية الأداة. علاوة على ذلك، تلتزم Google بتحسين عملية إطلاق الأداة، وتعزيز فريق الاختبار الفني الخاص بها لفحص الانتهاكات المحتملة في أداة الذكاء الاصطناعي هذه.

وأكد بيتشاي أيضًا على التزام الشركة بتزويد المستخدمين بمعلومات مفيدة ودقيقة وغير متحيزة. وشدد على ضرورة تطبيق هذا النهج في كافة المنتجات، وخاصة تقنيات الذكاء الاصطناعي الناشئة.

ويقول خبراء التكنولوجيا إن المشاكل الحالية مع جيميني تسلط الضوء على تحديات التعامل مع النتائج المضللة. كما يظهر مدى تعقيد نماذج تدريب الذكاء الاصطناعي.

هوينه دونج (المصدر: الهندسة المثيرة للاهتمام)

[إعلان 2]
مصدر