ماہرین نے خبردار کیا ہے کہ AI چیٹ بوٹس 45 فیصد وقت تک غلط ہو سکتے ہیں۔

کیون ویل، سکول آف ہیومینٹیز، میڈیا اینڈ کریٹیوٹی، میسی یونیورسٹی (نیوزی لینڈ) میں میڈیا اسٹڈیز کے سینئر لیکچرر بتاتے ہیں کہ جنریٹو آرٹیفیشل انٹیلی جنس (AI) کا استعمال ٹیکسٹ، امیجز اور دیگر ڈیٹا فارمز بنانے کے لیے کیا جاتا ہے جو اسے موصول ہوئی خام معلومات کی بنیاد پر ہوتی ہے۔

تاہم، AI جنریشن انسانوں کی جانب سے اس کی تصدیق کرنے سے زیادہ تیزی سے غلط معلومات پیدا کرنے کا ایک ذریعہ بن سکتا ہے، جس کے نتیجے میں حقیقی دنیا کے نتائج برآمد ہوتے ہیں اگر صارفین اس پر مکمل اعتماد کرتے ہیں۔ بڑے پیمانے پر زبان کے ماڈلز، جیسے ChatGPT یا Claude، درستگی کی ضمانت دینے کے بجائے، ممکنہ جملے بنانے کے لیے ملحقہ الفاظ کے امکان کی بنیاد پر کام کرتے ہیں۔

مطالعہ کے مطابق، زبان یا جغرافیائی محل وقوع سے قطع نظر، AI سے پیدا ہونے والی غلط معلومات 45 فیصد تک خبروں کا حصہ بنتی ہیں۔ OpenAI یہ بھی تسلیم کرتا ہے کہ غلط معلومات کو "سچ" کے طور پر ظاہر ہونے سے مکمل طور پر روکنے کا کوئی طریقہ نہیں ہے۔

محققین نے ان ماڈلز کو ایک مشکل سوال کا سامنا کرنے والے طالب علموں سے تشبیہ دی ہے، جو جب یقین نہیں رکھتے تو یہ تسلیم کرنے کے بجائے اندازہ لگا لیں گے کہ وہ نہیں جانتے۔

مسٹر ویل صارفین کو مشورہ دیتے ہیں کہ وہ پہلے سے قابل اعتماد ذرائع سے مشورہ کریں، یا حوالہ کے لیے روایتی کتابوں اور دستاویزات کا استعمال کریں۔ ماہرین تعلیم کی ضرورت اور AI کے محتاط استعمال کے لیے قواعد کے قیام پر زور دیتے ہیں، خاص طور پر چونکہ AI آہستہ آہستہ حکومتوں، انتظامی اداروں اور پیچیدہ تنظیموں کے کام میں شامل ہو جاتا ہے۔

واپس موضوع پر

وی این اے

ماخذ: https://tuoitre.vn/chatbot-ai-co-the-sai-toi-45-chuyen-gia-canh-bao-20260323211414635.htm