ChatGPT اور DeepSeek سائنسی ڈیٹا کو مسخ کرتے ہیں۔

ChatGPT اور DeepSeek جیسے AI ماڈلز سائنسی مواد کو خاص طور پر طبی میدان میں، اس کا خلاصہ کرتے وقت اسے مسخ کرنے کے قابل پایا گیا ہے۔

Báo Khoa học và Đời sống•08/07/2025

جرمنی میں محققین کے ایک گروپ نے حال ہی میں تحقیقی مواد کو مختصر کرنے کے لیے AI چیٹ بوٹس کے استعمال میں تعصب کے امکان کے بارے میں ایک انتباہ جاری کیا۔ 4,900 انسانی تحریری سائنسی خلاصوں کا تجزیہ کرنے کے بعد، گروپ نے مختلف AI ماڈلز کا استعمال اس بات کا موازنہ کرنے کے لیے کیا کہ یہ سسٹم کس طرح معلومات پر کارروائی کرتے ہیں۔ نتائج سے پتہ چلتا ہے کہ زیادہ تر چیٹ بوٹس نے اوورجنرلائزیشن کی غلطی کی، یہاں تک کہ جب درست خلاصہ کرنے کا اشارہ کیا جائے۔

سائنسی تحقیق کا خلاصہ کرتے وقت AI مواد کو آسانی سے بگاڑ سکتا ہے۔

تجربات میں، AI ماڈلز نے انسانی محققین کے مقابلے میں پانچ گنا زیادہ غلطیاں کیں جب ان کی رہنمائی نہ کی گئی۔ یہاں تک کہ درستگی کے واضح تقاضوں کے باوجود، غلطی کی شرح معیاری خلاصہ کے مقابلے میں اب بھی دو گنا زیادہ تھی۔ تحقیقی ٹیم کے ایک رکن نے تبصرہ کیا، "عام بنانا بعض اوقات بے ضرر لگتا ہے، لیکن یہ اصل تحقیق کی نوعیت کو بدل دیتا ہے۔ یہ ایک نظامی تعصب ہے۔"

خاص طور پر، چیٹ بوٹس کے نئے ورژن نہ صرف اس مسئلے کو حل کرنے میں ناکام رہتے ہیں بلکہ درحقیقت اس کو مزید بڑھا دیتے ہیں۔ ان کی ہموار اور دل چسپ ترسیل کے ساتھ، AI سے تیار کردہ خلاصے آسانی سے قابل اعتماد ہونے کا تاثر دیتے ہیں، جبکہ اصل مواد کو مسخ کیا جاتا ہے۔ ایک مثال میں، ڈیپ سیک نے "محفوظ اور کامیابی کے ساتھ قابل عمل" کے فقرے کو "محفوظ اور موثر علاج" میں تبدیل کر دیا - ایک ایسی تشریح جو مطالعہ کے اصل نتائج سے ہٹ گئی۔

آپ کو یہ بھی پسند آ سکتا ہے

بنیادی سائنسی تحقیق پر توجہ دیں۔سائنس اور ٹیکنالوجی کی ترقی میں پیش رفت کے تناظر میں، بنیادی سائنسی تحقیق کی شناخت علم کی بنیاد کے طور پر کی جاتی ہے، ایک اسٹریٹجک مسئلہ جس کا براہ راست تعلق ترقیاتی ماڈل، خود انحصاری اور قومی حیثیت سے ہے۔

امریکہ کے مستقبل کے نیوکلیئر ڈیٹرنس کا ٹرمپ کارڈ سامنے آ گیا ہے۔پہلی بار، سب سے خطرناک بین البراعظمی بیلسٹک میزائلوں کی تصاویر جنہیں امریکہ اگلے 50 سالوں تک استعمال کرنے کا ارادہ رکھتا ہے، نارتھروپ گرومین نے جاری کیا ہے۔

انٹارکٹک 'بلڈ فالس' کے نیچے کا راز: زندگی 1.5 ملین سالوں سے آکسیجن یا روشنی کے بغیر موجود ہے۔سائنسدانوں نے ایک مائکروبیل ماحولیاتی نظام دریافت کیا ہے جو انٹارکٹک برف کی چادر کے نیچے 1.5 ملین سال سے زیادہ زندہ ہے، بغیر آکسیجن یا روشنی کے پھل پھول رہا ہے۔

ایک اور مثال میں، لاما ماڈل نے خوراک، تعدد، یا ضمنی اثرات کی وضاحت کیے بغیر ذیابیطس کی دوائیوں کی سفارشات کو نوجوان مضامین پر لاگو کیا۔ اگر قاری، ڈاکٹر یا صحت کی دیکھ بھال کرنے والا پیشہ ور، اصل مطالعہ کے خلاف تصدیق نہیں کرتا ہے، تو اس قسم کے خلاصے مریضوں کے لیے براہ راست خطرہ بن سکتے ہیں۔

ماہرین کا خیال ہے کہ یہ رجحان AI ماڈلز کی تربیت کے طریقہ سے پیدا ہوتا ہے۔ بہت سے موجودہ چیٹ بوٹس کو ثانوی ڈیٹا کا استعمال کرتے ہوئے تربیت دی جاتی ہے - جیسے بڑے پیمانے پر تیار کی جانے والی سائنسی خبریں - جو پہلے ہی آسان کر دی گئی ہیں۔ جیسا کہ AI اس آسان مواد کا خلاصہ کرتا رہتا ہے، تحریف کا خطرہ بڑھ جاتا ہے۔

دماغی صحت کے شعبے میں AI ماہرین کا کہنا ہے کہ AI کی ترقی اور استعمال میں تکنیکی رکاوٹوں کو جلد قائم کرنے کی ضرورت ہے۔

099393800-1681896363-glenn-carstens-peters-npxxwgq33zq-unsplash.jpg

صارفین کو ہوشیار رہنا چاہیے کیونکہ چیٹ بوٹس مواد کو آسانی سے بگاڑ سکتے ہیں۔

چونکہ صارفین سائنسی معلومات سیکھنے کے لیے AI چیٹ بوٹس پر تیزی سے انحصار کرتے ہیں، تشریح میں چھوٹی غلطیاں تیزی سے جمع اور پھیل سکتی ہیں، جس سے وسیع پیمانے پر غلط فہمیاں پھیلتی ہیں۔ ایسے وقت میں جب سائنس پر اعتماد کم ہو رہا ہے، یہ خطرہ خاص طور پر تشویشناک ہے اور اس پر توجہ کی ضرورت ہے۔

ریاست ہائے متحدہ امریکہ - ویتنام: مت چھوڑیں

وزارت خارجہ کو ویتنام میں امریکی سفیر کے لیے اسناد کے خط کی ایک کاپی موصول ہوئی۔2 جولائی کی سہ پہر، وزارت خارجہ کے ہیڈ کوارٹر میں، ریاستی پروٹوکول اور فارن انٹرپریٹیشن ڈیپارٹمنٹ کے ڈائریکٹر مسٹر لی کانگ ڈنگ نے ویتنام میں ریاستہائے متحدہ امریکہ کی سفیر محترمہ جینیفر وِکس سے لیٹر آف کریڈنس کی ایک کاپی حاصل کی۔

سفیر Nguyen Quoc Dung نے مینیسوٹا، USA کا دورہ کیا اور کام کیا۔28-30 جون تک، ریاستہائے متحدہ میں ویتنام کے سفیر، Nguyen Quoc Dung نے منیسوٹا کا دورہ کیا اور کام کیا۔

ویتنام امریکی کاروباری اداروں کو اعلیٰ ٹیکنالوجی میں سرمایہ کاری بڑھانے کی ترغیب دیتا ہے۔26 جون کی صبح، گورنمنٹ ہیڈ کوارٹر میں، نائب وزیر اعظم ہو کوک ڈنگ نے کوہرنٹ گروپ (USA) کے سپلائی چین ڈائریکٹر مسٹر جیف پلیس کا استقبال کیا۔ ملاقات کے دوران نائب وزیراعظم نے اس بات کی تصدیق کی کہ ویتنام امریکی کاروباری اداروں کو سرمایہ کاری کو بڑھانے کے لیے حوصلہ افزائی کرتا ہے، خاص طور پر ہائی ٹیک، اختراعات اور سیمی کنڈکٹر صنعتوں میں۔

تحقیق اور علم کی ترسیل میں AI کو ضم کرنا ایک ناقابل واپسی رجحان ہے۔ تاہم ماہرین کا کہنا ہے کہ ٹیکنالوجی سائنسی مواد کو سمجھنے اور اس کی تصدیق کرنے میں انسانوں کے کردار کی جگہ نہیں لے سکتی۔ صحت کی دیکھ بھال جیسے اعلی خطرے والے شعبوں میں چیٹ بوٹس کا استعمال کرتے وقت، درستگی کو ترجیح دی جانی چاہیے، بجائے اس کے کہ مکمل طور پر ہموار زبان کے تجربے یا ردعمل کی رفتار پر توجہ دی جائے۔

ماخذ: https://khoahocdoisong.vn/chatgpt-deepseek-bop-meo-du-lieu-khoa-hoc-post1552971.html