أداة الذكاء الاصطناعي لتحويل الكلام إلى نص من OpenAI تم ضبطها وهي تقوم بتلفيق القصص

روّجت شركة OpenAI العملاقة للتكنولوجيا لأداتها لتحويل الكلام إلى نص، Whisper، باعتبارها ذكاءً اصطناعيًا يتمتع بدقة ومتانة تُضاهي الذكاء البشري. لكن Whisper عانى من عيب رئيسي: كان يُنتج نصوصًا وجملًا زائفة تمامًا.

يمكن أن تتضمن بعض النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي - والتي تسمى "الهلوسة" - تعليقات عنصرية ولغة عنيفة وحتى علاجات طبية خيالية - الصورة: AP

ويقول الخبراء إن بعض النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي هي ما يسمى بـ "الهلوسة"، وفقًا لوكالة أسوشيتد برس، بما في ذلك التعليقات العنصرية واللغة العنيفة وحتى العلاجات الطبية الخيالية.

ارتفاع معدل "الوهم" في النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي

ويشعر الخبراء بقلق خاص لأن Whisper يستخدم على نطاق واسع في العديد من الصناعات في جميع أنحاء العالم لترجمة ونسخ المقابلات، وإنشاء نصوص في تقنيات المستهلك الشائعة وإنشاء ترجمات لمقاطع الفيديو.

والأمر الأكثر إثارة للقلق هو أن العديد من المراكز الطبية تستخدم تطبيق Whisper لنقل الاستشارات بين الأطباء والمرضى، على الرغم من أن شركة OpenAI حذرت من أنه لا ينبغي استخدام الأداة في المناطق "عالية الخطورة".

من الصعب تحديد المدى الكامل للمشكلة، لكن الباحثين والمهندسين يقولون إنهم يواجهون "هلوسات" ويسبر بشكل منتظم في عملهم.

قال باحث في جامعة ميشيغان إنه وجد "هلوسات" في ثمانية من أصل عشرة تسجيلات صوتية فحصها. ووجد مهندس حاسوب "هلوسات" في حوالي نصف التسجيلات الصوتية التي حللها لأكثر من 100 ساعة. وقال مطور آخر إنه وجد "هلوسات" في جميع التسجيلات الـ 26,000 التي أنشأها باستخدام ويسبر تقريبًا.

تستمر المشكلة حتى مع عينات صوتية قصيرة وواضحة التسجيل. كشفت دراسة حديثة أجراها علماء حاسوب عن 187 "وهمًا" في أكثر من 13,000 مقطع صوتي واضح فحصوه. وصرح الباحثون بأن هذا التوجه سيؤدي إلى عشرات الآلاف من النسخ الخاطئة في ملايين التسجيلات.

وقالت ألوندرا نيلسون، التي ترأست مكتب العلوم والتكنولوجيا في البيت الأبيض في إدارة بايدن حتى العام الماضي، إن مثل هذه الأخطاء يمكن أن يكون لها "عواقب وخيمة للغاية"، خاصة في المستشفيات.

قال نيلسون، وهو الآن أستاذ في معهد الدراسات المتقدمة في برينستون، نيوجيرسي: "لا أحد يرغب في تشخيص خاطئ. يجب أن يكون هناك معيار أعلى".

يُستخدم ويسبر أيضًا لإنشاء ترجمات للصم وضعاف السمع، وهي فئة معرضة بشكل خاص لخطر الترجمة الخاطئة. ويرجع ذلك إلى أن الصم وضعاف السمع لا يستطيعون تحديد المقاطع المُلفقة "المخفية في جميع النصوص الأخرى"، كما يقول كريستيان فوجلر، وهو أصم ومدير برنامج إمكانية الوصول إلى التكنولوجيا في جامعة غالوديت.

تم استدعاء OpenAI لحل المشكلة

لقد دفع انتشار هذه "الهلوسات" الخبراء والمدافعين وموظفي OpenAI السابقين إلى مطالبة الحكومة الفيدرالية بالنظر في لوائح الذكاء الاصطناعي. على الأقل، يتعين على OpenAI معالجة هذا الخلل.

وقال ويليام سوندرز، وهو مهندس أبحاث في سان فرانسيسكو غادر شركة OpenAI في فبراير/شباط بسبب مخاوف بشأن اتجاه الشركة: "يمكن حل هذه المشكلة إذا كانت الشركة على استعداد لإعطائها الأولوية".

ستكون هناك مشكلة إذا طُرحت هذه التقنية وأصبح الناس واثقين جدًا من قدرتها لدرجة دمجها في جميع هذه الأنظمة الأخرى. صرّح متحدث باسم OpenAI بأن الشركة تعمل باستمرار على إيجاد طرق لتخفيف "الأوهام" وتُقدّر نتائج الباحثين، مُضيفًا أن OpenAI تُدمج الملاحظات في تحديثات النماذج.

في حين يفترض معظم المطورين أن أدوات تحويل النص إلى كلام يمكن أن ترتكب أخطاء مطبعية أو أخطاء أخرى، يقول المهندسون والباحثون إنهم لم يروا قط أداة تحويل نص إلى كلام مدعومة بالذكاء الاصطناعي "تهلوس" بقدر Whisper.

المصدر: https://tuoitre.vn/cong-cu-ai-chuyen-loi-noi-thanh-van-ban-cua-openai-bi-phat-hien-bia-chuyen-20241031144507089.htm