مصنوعی ذہانت: سرگوشی کے آلے کا تاریک پہلو

سماعت سے محروم افراد کے لیے کیپشن بنانے کے لیے Whisper کا استعمال بھی مشکل ہے، کیونکہ ان کے پاس پیدا ہونے والے لاکھوں الفاظ میں چھپی غلط معلومات کا پتہ لگانے کا کوئی طریقہ نہیں ہے۔

مثالی تصویر۔ (ماخذ: وائس گین)

مصنوعی ذہانت (AI) کے روزمرہ کی زندگی کا ایک ناگزیر حصہ بننے کے دور میں، OpenAI کی طرف سے تیار کردہ Whisper نامی ٹول نے تقریباً "انسان جیسی درستگی" کے ساتھ خود بخود نوٹس لینے کی صلاحیت کی بدولت کافی توجہ مبذول کرائی ہے۔

تعریف کے پیچھے، تاہم، وِسپر کو ایک سنگین خامی کی وجہ سے شدید تنقید کا سامنا ہے: اس کی آٹو فکشن کی صلاحیت، یعنی ٹیکسٹ یا یہاں تک کہ ایسے بیانات بھی جن کو کسی نے نہیں لکھا۔

سافٹ ویئر انجینئرز اور محققین کے مطابق، خیالی تفصیلات نہ صرف الجھن کا باعث بنتی ہیں بلکہ ان میں نسل پرستانہ تبصرے، پرتشدد زبان اور غیر حقیقی طبی علاج بھی شامل ہو سکتے ہیں۔

اگرچہ اوپن اے آئی نے خبردار کیا ہے کہ اس آلے کو "زیادہ خطرے والے علاقوں" میں استعمال نہیں کیا جانا چاہئے، بہت سی طبی سہولیات اب بھی ڈاکٹر-مریض کے مشورے کو ریکارڈ کرنے کے لیے وسوسے کو فعال طور پر اپنا رہی ہیں۔

درحقیقت، ایک حالیہ تحقیق سے پتا چلا ہے کہ عوامی میٹنگز کے سروے میں 80 فیصد آڈیو ریکارڈنگ میں یہ خیالی تفصیلات شامل ہیں۔ ایک مشین لرننگ انجینئر نے اس بات کی بھی نشاندہی کی کہ 100 گھنٹے سے زیادہ Whisper ٹرانسکرپٹس کے تجزیے سے یہ بات سامنے آئی کہ ان میں سے تقریباً 50% میں سنگین غلطیاں ہیں، جس سے ٹیکنالوجی کی وشوسنییتا کے بارے میں خدشات بڑھ رہے ہیں، جس کا تیزی سے استعمال ہو رہا ہے۔

ماہرین نے خبردار کیا ہے کہ غلطیاں "واقعی سنگین نتائج" کا باعث بن سکتی ہیں، خاص طور پر طبی شعبے میں۔

الوندرا نیلسن، وائٹ ہاؤس آفس آف سائنس اینڈ ٹیکنالوجی پالیسی کی سابق ڈائریکٹر نے زور دیا کہ کوئی بھی غلط تشخیص نہیں چاہتا، اور اس ٹیکنالوجی کے استعمال میں اعلیٰ معیارات پر زور دیا۔

سماعت سے محروم افراد کے لیے کیپشن بنانے کے لیے Whisper کا استعمال بھی مشکل ہے، کیونکہ ان کے پاس پیدا ہونے والے لاکھوں الفاظ میں چھپی غلط معلومات کا پتہ لگانے کا کوئی طریقہ نہیں ہے۔

افسانوی تحریروں کے عروج نے بہت سے ماہرین، کارکنوں، اور اوپن اے آئی کے سابق ملازمین کو وفاقی حکومت سے AI کو ریگولیٹ کرنے پر غور کرنے پر مجبور کیا ہے۔

سان فرانسسکو میں ایک ریسرچ انجینئر ولیم سانڈرز کا خیال ہے کہ اگر OpenAI اسے سنبھالنے کو ترجیح دیتا ہے تو یہ مسئلہ مکمل طور پر حل ہو سکتا ہے۔

OpenAI نے اعتراف کیا ہے کہ وہ مسلسل افسانوی تفصیلات کو کم سے کم کرنے کے لیے کام کر رہا ہے اور تحقیقی برادری کے تاثرات کو سراہتا ہے۔

تاہم، بہت سے انجینئرز اب بھی دعویٰ کرتے ہیں کہ انہوں نے کبھی بھی AI نوٹ لینے کا دوسرا ٹول نہیں دیکھا جس میں افسانے کی سطح Whisper./ سے زیادہ ہو۔

(TTXVN/Vietnam+)

ماخذ: https://www.vietnamplus.vn/tri-tue-nhan-tao-mat-trai-cua-cong-cu-whisper-post987914.vnp