اليونسكو: أدوات الذكاء الاصطناعي متحيزة ضد المرأة

[إعلان 1]

وبحسب دراسة جديدة نشرتها منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) في 7 مارس/آذار، فإن العديد من أدوات الذكاء الاصطناعي الأكثر شعبية في العالم مدعومة ببرامج متحيزة ضد المرأة، طورتها شركتا OpenAI وMeta.

تستخدم أكبر الشركات في سباق الذكاء الاصطناعي كميات هائلة من بيانات الإنترنت لتدريب خوارزمياتها، المعروفة باسم نماذج اللغة الكبيرة (LLMs). اختبرت اليونسكو خوارزمية لاما 2 من ميتا، وخوارزميتي GPT-2 وGPT-3.5 من OpenAI، المستخدمتين في تطبيق الدردشة الشهير ChatGPT. ووجدت الاختبارات أن كلًا منهما أظهر أدلة واضحة على التحيز ضد المرأة.

وأظهرت النتائج أن النصوص المتعلقة بأسماء الإناث التي تم إنشاؤها بواسطة هذه الأدوات غالبًا ما تحتوي على كلمات مثل "المنزل" أو "العائلة" أو "الأطفال"، في حين أن النصوص المتعلقة بأسماء الذكور غالبًا ما تحتوي على كلمات مثل "الأعمال" أو "الراتب" أو "المهنة"؛ وغالبًا ما يتم وصف الرجال بوظائف مثل المعلمين والمحامين والأطباء؛ بينما غالبًا ما ترتبط النساء بوظائف مثل الطبخ والأعمال المنزلية وما إلى ذلك.

دو كاو

[إعلان 2]
مصدر