الذكاء الاصطناعي: الجانب المظلم لأداة الهمس

إن استخدام تطبيق Whisper لإنشاء ترجمات لضعاف السمع يعد مشكلة أيضًا، حيث لا توجد طريقة لاكتشاف المعلومات المضللة المخفية بين ملايين الكلمات التي يتم إنشاؤها.

صورة توضيحية. (المصدر: Voicegain)

في عصر الذكاء الاصطناعي الذي أصبح جزءًا لا غنى عنه من الحياة اليومية، جذبت أداة تسمى Whisper طورتها شركة OpenAI اهتمامًا كبيرًا بفضل قدرتها على تدوين الملاحظات تلقائيًا بدقة "تشبه دقة الإنسان".

لكن خلف هذا الاستحسان، يواجه تطبيق Whisper انتقادات شديدة بسبب خلل خطير: قدرته على إنشاء نصوص أو حتى بيانات لم يكتبها أحد من قبل.

وبحسب مهندسي البرمجيات والباحثين، فإن التفاصيل الخيالية لا تسبب الارتباك فحسب، بل يمكن أن تحتوي أيضًا على تعليقات عنصرية ولغة عنيفة وعلاجات طبية غير واقعية.

وعلى الرغم من تحذير شركة OpenAI من أنه لا ينبغي استخدام الأداة في "المناطق عالية الخطورة"، فإن العديد من المرافق الطبية لا تزال تعتمد بشكل نشط على Whisper لتسجيل استشارات الطبيب والمريض.

في الواقع، وجدت دراسة حديثة أن ما يصل إلى 80% من التسجيلات الصوتية في استطلاع رأي للاجتماعات العامة احتوت على هذه التفاصيل الوهمية. كما أشار مهندس في مجال التعلم الآلي إلى أن تحليل أكثر من 100 ساعة من نصوص ويسبر كشف أن حوالي 50% منها احتوت على أخطاء جسيمة، مما أثار مخاوف بشأن موثوقية هذه التقنية، التي يزداد استخدامها.

ويحذر الخبراء من أن الأخطاء يمكن أن تؤدي إلى "عواقب وخيمة حقا"، وخاصة في المجال الطبي.

وأكدت ألوندرا نيلسون، المديرة السابقة لمكتب سياسة العلوم والتكنولوجيا في البيت الأبيض، أن لا أحد يريد تشخيصًا خاطئًا، ودعت إلى وضع معايير أعلى في تطبيق هذه التكنولوجيا.

إن استخدام تطبيق Whisper لإنشاء ترجمات لضعاف السمع يعد مشكلة أيضًا، حيث لا توجد طريقة لاكتشاف المعلومات المضللة المخفية بين ملايين الكلمات التي يتم إنشاؤها.

دفع ارتفاع عدد النصوص الخيالية العديد من الخبراء والناشطين والموظفين السابقين في OpenAI إلى مطالبة الحكومة الفيدرالية بالنظر في تنظيم الذكاء الاصطناعي.

ويعتقد ويليام سوندرز، وهو مهندس أبحاث في سان فرانسيسكو، أن هذه المشكلة قابلة للحل تمامًا إذا أعطت OpenAI الأولوية لمعالجتها.

اعترفت شركة OpenAI بأنها تعمل باستمرار على تقليل التفاصيل الخيالية وتقدر ردود الفعل من مجتمع البحث.

ومع ذلك، لا يزال العديد من المهندسين يزعمون أنهم لم يروا قط أداة أخرى لتدوين الملاحظات تعتمد على الذكاء الاصطناعي بمستوى خيالي مرتفع مثل Whisper./.

(TTXVN/فيتنام+)

المصدر: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp