إن استخدام Whisper لإنشاء ترجمات لضعاف السمع يشكل أيضًا مشكلة خطيرة، حيث لا توجد لديهم طريقة لاكتشاف المعلومات الخاطئة المخفية بين ملايين الكلمات التي يتم إنشاؤها.
في عصر أصبح فيه الذكاء الاصطناعي جزءًا لا غنى عنه من الحياة اليومية، جذبت أداة تسمى Whisper طورتها شركة OpenAI اهتمامًا كبيرًا بفضل قدرتها على تدوين الملاحظات تلقائيًا بدقة "تشبه دقة الإنسان".
لكن خلف هذا الإشادة، يواجه تطبيق Whisper انتقادات شديدة بسبب خلل خطير: قدرته على فبركة المعلومات بشكل تلقائي، أي توليد نصوص أو حتى بيانات لم يكتبها أحد من قبل.
وبحسب مهندسي البرمجيات والباحثين، فإن التفاصيل الخيالية لا تسبب الارتباك فحسب، بل يمكن أن تحتوي أيضًا على تعليقات عنصرية ولغة عنيفة وعلاجات طبية غير واقعية.
وعلى الرغم من تحذير شركة OpenAI من أنه لا ينبغي استخدام الأداة في "المناطق عالية الخطورة"، فإن العديد من المرافق الطبية لا تزال تعتمد بشكل نشط على Whisper لتسجيل استشارات الطبيب والمريض.
في الواقع، وجدت دراسة حديثة أن ما يصل إلى 80% من تسجيلات استطلاع رأي للاجتماعات العامة احتوت على هذه التفاصيل الوهمية. كما أشار مهندس في مجال التعلم الآلي إلى أن تحليلًا لأكثر من 100 ساعة من نصوص ويسبر وجد أن حوالي 50% منها احتوت على أخطاء جسيمة، مما أثار مخاوف بشأن موثوقية هذه التقنية، التي يزداد استخدامها.
ويحذر الخبراء من أن الأخطاء يمكن أن تؤدي إلى "عواقب وخيمة حقا"، خاصة في المجال الطبي.
وأكدت ألوندرا نيلسون، المديرة السابقة لمكتب البيت الأبيض لسياسة العلوم والتكنولوجيا، أن لا أحد يريد تشخيصًا خاطئًا، ودعت إلى وضع معايير أعلى في تطبيق هذه التكنولوجيا.
إن استخدام Whisper لإنشاء ترجمات لضعاف السمع يشكل أيضًا مشكلة خطيرة، حيث لا توجد لديهم طريقة لاكتشاف المعلومات الخاطئة المخفية بين ملايين الكلمات التي يتم إنشاؤها.
دفع ارتفاع عدد النصوص الخيالية العديد من الخبراء والناشطين والموظفين السابقين في OpenAI إلى مطالبة الحكومة الفيدرالية بالنظر في تنظيم الذكاء الاصطناعي.
ويعتقد ويليام سوندرز، وهو مهندس أبحاث في سان فرانسيسكو، أن هذه المشكلة قابلة للحل تمامًا إذا أعطت OpenAI الأولوية لمعالجتها.
اعترفت شركة OpenAI بأنها تعمل باستمرار على تقليل التفاصيل الخيالية وتقدر ردود الفعل من مجتمع البحث.
ومع ذلك، لا يزال العديد من المهندسين يزعمون أنهم لم يروا قط أداة أخرى لتدوين الملاحظات بالذكاء الاصطناعي بمستوى خيالي مرتفع مثل Whisper./.
[إعلان 2]
المصدر: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp
تعليق (0)