روّجت شركة OpenAI العملاقة للتكنولوجيا لأداتها Whisper لتحويل الكلام إلى نص، ووصفتها بأنها ذكاء اصطناعي يتمتع بدقة ومتانة تُضاهي الذكاء البشري. لكن لدى Whisper عيبًا رئيسيًا واحدًا: فهو يُنتج نصوصًا وجملًا زائفة تمامًا.
يمكن أن تتضمن بعض النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي - والتي تسمى "الهلوسة" - تعليقات عنصرية ولغة عنيفة وحتى علاجات طبية خيالية - الصورة: AP
وبحسب وكالة أسوشيتد برس، فإن بعض النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي غير واقعية، ووصفها بأنها "هلوسة"، وتتضمن تعليقات عنصرية ولغة عنيفة وحتى علاجات طبية خيالية.
ارتفاع معدل "الوهم" في النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي
ويشعر الخبراء بقلق خاص لأن Whisper يستخدم على نطاق واسع في العديد من الصناعات حول العالم لترجمة ونسخ المقابلات، وإنشاء نصوص في تقنيات المستهلك الشائعة، وإنشاء ترجمات لمقاطع الفيديو.
والأمر الأكثر إثارة للقلق هو أن العديد من المراكز الطبية تستخدم تطبيق Whisper لنقل الاستشارات بين الأطباء والمرضى، على الرغم من أن شركة OpenAI حذرت من أنه لا ينبغي استخدام الأداة في المناطق "عالية الخطورة".
من الصعب تحديد المدى الكامل للمشكلة، لكن الباحثين والمهندسين يقولون إنهم يواجهون "هلوسات" ويسبر بشكل منتظم في عملهم.
قال باحث في جامعة ميشيغان إنه وجد "هلوسات" في ثمانية من أصل عشرة تسجيلات صوتية فحصها. ووجد مهندس حاسوب "هلوسات" في حوالي نصف التسجيلات الصوتية التي حللها لأكثر من 100 ساعة. وقال مطور آخر إنه وجد "هلوسات" في جميع التسجيلات الـ 26,000 التي أنشأها باستخدام ويسبر تقريبًا.
تستمر المشكلة حتى مع عينات صوتية قصيرة وواضحة التسجيل. فقد كشفت دراسة حديثة أجراها علماء حاسوب عن 187 "وهمًا" في أكثر من 13,000 مقطع صوتي واضح فحصوه. وصرح الباحثون بأن هذا التوجه سيؤدي إلى عشرات الآلاف من النسخ الخاطئة في ملايين التسجيلات.
وقالت ألوندرا نيلسون، التي ترأست مكتب العلوم والتكنولوجيا في البيت الأبيض في إدارة بايدن حتى العام الماضي، إن مثل هذه الأخطاء يمكن أن يكون لها "عواقب وخيمة للغاية"، خاصة في المستشفيات.
قال نيلسون، وهو الآن أستاذ في معهد الدراسات المتقدمة في برينستون، نيوجيرسي: "لا أحد يرغب في تشخيص خاطئ. يجب أن يكون هناك معيار أعلى".
يُستخدم ويسبر أيضًا لإنشاء ترجمات للصم وضعاف السمع، وهي فئة معرضة بشكل خاص لخطر الترجمة الخاطئة. ويرجع ذلك إلى أن الصم وضعاف السمع لا يستطيعون تحديد المقاطع المُلفقة "المخفية في جميع النصوص الأخرى"، كما يقول كريستيان فوجلر، وهو أصم ومدير برنامج إمكانية الوصول إلى التكنولوجيا في جامعة غالوديت.
تم استدعاء OpenAI لحل المشكلة
لقد دفع انتشار هذه "الهلوسات" الخبراءَ والمدافعينَ عن حقوق الإنسان وموظفي OpenAI السابقين إلى مطالبة الحكومة الفيدرالية بالنظر في وضع لوائح تنظيمية للذكاء الاصطناعي. على الأقل، يتعين على OpenAI معالجة هذا الخلل.
وقال ويليام سوندرز، وهو مهندس أبحاث في سان فرانسيسكو غادر شركة OpenAI في فبراير/شباط بسبب مخاوف بشأن اتجاه الشركة: "يمكن حل هذه المشكلة إذا كانت الشركة على استعداد لإعطائها الأولوية".
قال متحدث باسم OpenAI: "إنها مشكلة إذا تم إصدارها وزادت ثقة الناس بقدراتها لدرجة دمجها في جميع الأنظمة الأخرى". تعمل الشركة باستمرار على إيجاد طرق لتخفيف هذه "الأوهام" وتقدر نتائج الباحثين، مضيفةً أن OpenAI تُدمج الملاحظات في تحديثات النماذج.
في حين يفترض معظم المطورين أن محركات تحويل النص إلى كلام قادرة على ارتكاب أخطاء مطبعية أو أخطاء أخرى، يقول المهندسون والباحثون إنهم لم يروا أبدًا محرك تحويل نص إلى كلام مدعوم بالذكاء الاصطناعي "يهلوس" بقدر Whisper.
جائزة نوبل في الفيزياء 2024: مؤسسو الذكاء الاصطناعي[إعلان 2]
المصدر: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm
تعليق (0)