في آخر التطورات، تناول سوندار بيتشاي، الرئيس التنفيذي لشركة جوجل، الجدل الدائر حول نموذج الذكاء الاصطناعي الخاص بالشركة، المسمى "جيميني". طورت جوجل أداة "جيميني" لإنشاء صور متنوعة لشخصيات تاريخية، إلا أنها واجهت مؤخرًا انتقادات حادة بسبب إنتاجها صورًا مضللة من حيث قيمتها التاريخية.
جوجل تعترف بالتحيز في نظام جيميني، وتتعهد بالتحرك سريعاً. (صورة: جوناثان را/نورفوتو عبر غيتي إيميجز)
على سبيل المثال، ظهرت صور الباباوات والآباء المؤسسين للولايات المتحدة، وحتى الفايكنج، بأعراق وأجناس مختلفة. والجدير بالذكر أنه تم تصوير جنود ألمان في الحرب العالمية الثانية كأشخاص من ذوي البشرة الملونة. أثار هذا غضب المستخدمين الذين سارعوا إلى التعبير عن مخاوفهم. ونتيجة لذلك، علّقت جوجل مؤقتًا أداة Gemini AI.
علاوة على ذلك، أثارت إحدى الإجابات المكتوبة استغرابًا واسعًا. فقد طُلب من برنامج الدردشة الآلي "جيميني" (Gemini AI) مقارنة الأثر الاجتماعي لإيلون ماسك وهتلر، فكانت الإجابة: "يُترك لكل فرد تحديد من له أثر سلبي أكبر على المجتمع". وسرعان ما أثارت هذه الإجابة المبهمة موجة من الانتقادات.
في الآونة الأخيرة، وصف الرئيس التنفيذي لشركة جوجل، سوندار بيتشاي، بعض ردود جيميني بأنها "متحيزة" و"غير مقبولة على الإطلاق" في مذكرة، معترفاً بأن المحتوى الذي تم إنشاؤه قد أساء إلى الناس.
علاوة على ذلك، أعرب بيتشاي في رسالته الإلكترونية عن أسفه لما حدث، قائلاً: "أعلم أن بعض الردود قد أساءت إلى مستخدمينا وأظهرت تحيزاً. وبكل وضوح، كان ذلك أمراً غير مقبول بتاتاً، وكنا مخطئين".
وأكد للموظفين أن الفرق تعمل بلا كلل لمعالجة هذه المشكلات، مع التشديد على ضرورة تحقيق تحسن كبير في الاستجابة لمختلف استفسارات العملاء في الأسابيع المقبلة.
كما أوضح الرئيس التنفيذي سلسلة من الإجراءات لمعالجة هذه المشكلة، من بينها تغييرات في بنية الأداة. علاوة على ذلك، تلتزم جوجل بتحسين عملية إطلاق الأداة وتعزيز فريق اختبارها الهندسي لمراجعة أي عيوب محتملة في أداة الذكاء الاصطناعي.
علاوة على ذلك، أكد بيتشاي التزام الشركة بتزويد المستخدمين بمعلومات مفيدة ودقيقة ومحايدة. وشدد على ضرورة اتباع هذا النهج في جميع المنتجات، لا سيما في تقنيات الذكاء الاصطناعي الناشئة.
يرى خبراء التكنولوجيا أن المشاكل الحالية التي تواجه مشروع جيميني تُبرز بشكلٍ أكبر التحديات التي تواجه التعامل مع النتائج المضللة، كما تُظهر مدى تعقيد تدريب نماذج الذكاء الاصطناعي.
مصدر
تعليق (0)