تحذير بشأن برنامج ChatGPT "المهلوس"

يتميز نموذجا ChatGPT اللذان تم إطلاقهما حديثًا بتردد أعلى للمعلومات المصطنعة مقارنةً بالجيل السابق. الصورة: اليراعات .

بعد يومين فقط من الإعلان عن GPT-4.1، أطلقت OpenAI رسميًا نموذجين جديدين، هما o3 و o4-mini. يتميز كلا النموذجين بقدرات استدلالية فائقة مع العديد من التحسينات القوية.

مع ذلك، ووفقًا لموقع TechCrunch ، لا يزال هذان النموذجان الجديدان يعانيان من "الوهم" أو الابتكار الذاتي. في الواقع، يُظهران قدرًا أكبر من الوهم مقارنةً ببعض نماذج OpenAI القديمة.

وفقًا لشركة IBM، فإن الهلوسة هي ظاهرة تتلقى فيها نماذج اللغة الكبيرة (LLMs) - غالبًا ما تكون برامج الدردشة الآلية أو أدوات رؤية الكمبيوتر - أنماط بيانات غير موجودة أو غير قابلة للتمييز بالنسبة للبشر، مما ينتج عنه نتائج لا معنى لها أو غير دقيقة.

بمعنى آخر، يتوقع المستخدمون عادةً أن تُنتج تقنيات الذكاء الاصطناعي نتائج دقيقة استنادًا إلى بيانات مُدرَّبة. مع ذلك، في بعض الحالات، لا تستند نتائج الذكاء الاصطناعي إلى بيانات دقيقة، مما يُنتج استجابة "خاطئة".

في أحدث تقرير لها، اكتشفت OpenAI أن o3 كان "وهميًا" عند الإجابة على 33٪ من الأسئلة على PersonQA، وهو المعيار الداخلي للشركة لقياس دقة معرفة النموذج بالبشر.

للمقارنة، يُمثل هذا الرقم ضعف معدل "الوهم" في نماذج الاستدلال السابقة من OpenAI، وهما o1 و o3-mini، واللذان بلغا 16% و 14.8% على التوالي. في الوقت نفسه، كان أداء نموذج O4-mini أسوأ في اختبار PersonQA، حيث واجه "الوهم" لمدة 48% من مدة الاختبار.

والأمر الأكثر إثارة للقلق هو أن "مؤسس ChatGPT" لا يعرف في الواقع سبب حدوث ذلك. تحديدًا، في تقريرها الفني حول o3 و o4-mini، ذكرت OpenAI أن "هناك حاجة إلى مزيد من البحث لفهم سبب تفاقم 'الهلوسات'" عند توسيع نطاق نماذج الاستدلال.

يُظهر كل من O3 و o4-mini أداءً أفضل في بعض المجالات، بما في ذلك البرمجة والمهام الرياضية. ومع ذلك، ولأنهما يحتاجان إلى "صياغة عبارات أكثر من مجرد عبارات عامة"، فقد أسفر كلا النموذجين عن "عبارات أكثر دقة، ولكن أيضًا عبارات أقل دقة".

المصدر: https://znews.vn/canh-bao-ve-chatgpt-ao-giac-post1547242.html