يرتكب الذكاء الاصطناعي أخطاء غير منطقية وهو متحيز مثل البشر.

AI - Ảnh 1. — تعمل الذكاء الاصطناعي بشكل أفضل عندما يتم إعطاؤها مشاكل لحلها والتي لها عمليات واضحة وصيغ ثابتة. ولكن عند التعامل مع المواقف التي تتطلب حكمًا ذاتيًا أو تنطوي على تفضيلات شخصية، يمكن للذكاء الاصطناعي أن يرتكب أخطاء مثل البشر - صورة: الذكاء الاصطناعي

قام علماء من خمس جامعات في كندا وأستراليا بتقييم سلوك ChatGPT (على وجه التحديد نموذجي OpenAI GPT-3.5 و GPT-4) على 18 تحيزًا معرفيًا بارزًا شائعًا في علم النفس البشري مثل: التحيز التأكيدي، وتأثير الهبة، ومغالطة التكلفة الغارقة، وعلم نفس اليقين...

وأظهرت النتائج أنه في ما يقرب من نصف المواقف التي تم اختبارها، تصرف ChatGPT تمامًا مثل الإنسان عندما واجه خيارات غير عقلانية أو عاطفية، على الرغم من سمعة النظام في التفكير المنطقي المتسق.

هل الذكاء الاصطناعي "محايد" حقًا كما هو متوقع؟

علق الدكتور يانغ تشن، الأستاذ المشارك في إدارة العمليات بكلية آيفي للأعمال (كندا) والمؤلف الرئيسي للدراسة، قائلاً: "يعمل الذكاء الاصطناعي على أفضل وجه عند تكليفه بحل المشكلات ذات العمليات الواضحة والصيغ الثابتة. ولكن عند التعامل مع مواقف تتطلب حكمًا ذاتيًا أو تنطوي على تفضيلات شخصية، يمكن للذكاء الاصطناعي أن يرتكب أخطاءً مثل البشر".

قام فريق البحث بدمج المواقف الافتراضية المألوفة في علم النفس في ChatGPT، وإضافة سياقات عملية مثل إدارة المخزون أو التفاوض مع الموردين.

ومن الجدير بالذكر أن نماذج الذكاء الاصطناعي لا تزال تظهر تحيزًا معرفيًا حتى عندما يتم تحويل سياق السؤال من الواقع المجرد إلى واقع العمل.

GPT-4 أذكى، لكنه ليس مثاليًا

GPT-4 هو إصدار مطور من GPT-3.5 يتميز بقدرته الفائقة على حل المشكلات المنطقية أو الاحتمالية. ومع ذلك، في عمليات المحاكاة الذاتية، مثل اختيار خيار محفوف بالمخاطر لزيادة الأرباح، أظهر GPT-4 ميلاً عاطفياً أكثر من البشر.

وعلى وجه الخصوص، لاحظت الدراسة أن GPT-4 أعطى باستمرار استجابات متحيزة في مواقف اختبار التحيز التأكيدي، وكان أكثر عرضة لـ "مغالطة اليد الساخنة" - الميل إلى الاعتقاد بأن الأحداث العشوائية سوف تتكرر في سلسلة - من GPT-3.5.

في المقابل، تتمكن الذكاء الاصطناعي من تجنب بعض التحيزات التي يرتكبها البشر في كثير من الأحيان، مثل إهمال المعدل الأساسي أو مغالطة التكلفة الغارقة.

AI - Ảnh 2. — السبب وراء إظهار ChatGPT تحيزًا يشبه الإنسان يأتي من بيانات التدريب نفسها، والتي مليئة بسلوكياتنا وأفكارنا المتحيزة - الصورة: AI

أصل تحيز الذكاء الاصطناعي: من البيانات البشرية

وفقًا لفريق البحث، فإن السبب وراء إظهار ChatGPT لتحيزات تشبه التحيزات البشرية يأتي من بيانات التدريب نفسها، والتي مليئة بسلوكياتنا وأفكارنا المتحيزة. إن حقيقة أن الذكاء الاصطناعي يتم ضبطه بدقة بناءً على ردود الفعل البشرية تعزز هذا الاتجاه بشكل أكبر، حيث يتم "مكافأة" النموذج على الاستجابات التي تبدو معقولة، بدلاً من أن تكون دقيقة تمامًا.

"للحصول على نتائج دقيقة وغير متحيزة، استخدم الذكاء الاصطناعي للمهام التي تثق بالفعل في قدرة الكمبيوتر على القيام بها بشكل جيد"، يوصي الدكتور تشين. "ولكن إذا كان عليك التعامل مع قضايا استراتيجية أو عاطفية، فلا يزال البشر بحاجة إلى المراقبة والتدخل، حتى لو كان ذلك ببساطة عن طريق إعادة صياغة السؤال."

يجب التعامل مع الذكاء الاصطناعي كموظف يتمتع بسلطة اتخاذ قرارات مهمة، مما يعني ضرورة مراقبته والالتزام به أخلاقيًا. وإلا، فإننا نُؤتمت، عن غير قصد، التفكير الخاطئ بدلًا من تحسينه، كما قالت مينا أنديابان، المؤلفة المشاركة، والأستاذة المساعدة في الموارد البشرية والإدارة بجامعة ماكماستر (كندا).

العودة إلى الموضوع

مينه هاي

المصدر: https://tuoitre.vn/ai-cung-mac-sai-lam-phi-ly-va-thien-vi-nhu-con-nguoi-20250505103652783.htm