الذكاء الاصطناعي: الجانب المظلم لأداة الهمس

إن استخدام Whisper لإنشاء ترجمات لضعاف السمع يشكل أيضًا مشكلة خطيرة، حيث لا توجد لديهم طريقة لاكتشاف المعلومات الخاطئة المخفية بين ملايين الكلمات التي يتم إنشاؤها.

في عصر أصبح فيه الذكاء الاصطناعي جزءًا لا غنى عنه من الحياة اليومية، جذبت أداة تسمى Whisper طورتها شركة OpenAI اهتمامًا كبيرًا بفضل قدرتها على تدوين الملاحظات تلقائيًا بدقة "تشبه دقة الإنسان".

لكن خلف هذا الإشادة، يواجه تطبيق Whisper انتقادات شديدة بسبب خلل خطير: قدرته على فبركة المعلومات بشكل تلقائي، أي توليد نصوص أو حتى بيانات لم يكتبها أحد من قبل.

وبحسب مهندسي البرمجيات والباحثين، فإن التفاصيل الخيالية لا تسبب الارتباك فحسب، بل يمكن أن تحتوي أيضًا على تعليقات عنصرية ولغة عنيفة وعلاجات طبية غير واقعية.

وعلى الرغم من تحذير شركة OpenAI من أنه لا ينبغي استخدام الأداة في "المناطق عالية الخطورة"، فإن العديد من المرافق الطبية لا تزال تعتمد بشكل نشط على Whisper لتسجيل استشارات الطبيب والمريض.

وفي الواقع، وجدت دراسة حديثة أن ما يصل إلى 80% من التسجيلات الصوتية في استطلاع رأي حول الاجتماعات العامة تحتوي على هذه التفاصيل الخيالية. وأشار مهندس التعلم الآلي أيضًا إلى أن تحليل أكثر من 100 ساعة من نصوص Whisper أظهر أن حوالي 50٪ منها تحتوي على أخطاء خطيرة. ويثير هذا الأمر المخاوف بشأن موثوقية هذه التكنولوجيا، التي أصبحت تستخدم على نطاق واسع بشكل متزايد.

ويحذر الخبراء من أن الأخطاء يمكن أن يكون لها "عواقب وخيمة حقا"، خاصة في المجال الطبي. ب

وأكدت ألوندرا نيلسون، المديرة السابقة لمكتب البيت الأبيض لسياسة العلوم والتكنولوجيا، أن لا أحد يريد تشخيصًا خاطئًا، ودعت إلى وضع معايير أعلى في تطبيق هذه التكنولوجيا.

إن استخدام Whisper لإنشاء ترجمات لضعاف السمع يشكل أيضًا مشكلة خطيرة، حيث لا توجد لديهم طريقة لاكتشاف المعلومات الخاطئة المخفية بين ملايين الكلمات التي يتم إنشاؤها.

دفع ارتفاع عدد النصوص الخيالية العديد من الخبراء والناشطين والموظفين السابقين في OpenAI إلى مطالبة الحكومة الفيدرالية بالنظر في تنظيم الذكاء الاصطناعي.

ويعتقد ويليام سوندرز، وهو مهندس أبحاث في سان فرانسيسكو، أن هذه المشكلة قابلة للحل تمامًا إذا أعطت OpenAI الأولوية لمعالجتها.

اعترفت شركة OpenAI بأنها تعمل باستمرار على تقليل التفاصيل الخيالية وتقدر ردود الفعل من مجتمع البحث.

ومع ذلك، لا يزال العديد من المهندسين يزعمون أنهم لم يروا قط أداة أخرى لتدوين الملاحظات بالذكاء الاصطناعي بمستوى خيالي مرتفع مثل Whisper./.

(وكالة أنباء فيتنام/فيتنام+)

[إعلان 2]
المصدر: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp