AI کے تاریک پہلو سے بچو

اپنے ناقابل تردید فوائد کے باوجود، مصنوعی ذہانت (AI) فوری اخلاقی سوالات اٹھاتی ہے۔ خاص طور پر، سائنسی تحقیق میں، ایسے بہت سے اعداد و شمار سامنے آئے ہیں جو ظاہر کرتے ہیں کہ AI کا غلط استعمال غیر متوقع تعصبات کا باعث بن سکتا ہے۔

آرٹیفیشل انٹیلی جنس (AI) کے مسودہ قانون کو مکمل کرنے کے لیے خیالات کا تعاون کرنے کے لیے ورکشاپ۔ (تصویر: HUONG NGUYEN)

تعصب اور دستاویزات کی جعل سازی کے حالیہ واقعات نے اسکالرز کو تحقیق میں AI کی شمولیت کی مناسب سطح پر دوبارہ غور کرنے پر مجبور کیا ہے۔

حال ہی میں، اپنے ذاتی صفحہ پر، پروفیسر، ڈاکٹر آف لسانیات Nguyen Van Hiep نے ایک کہانی شیئر کی جس نے قارئین کو چونکا دیا۔ اس نے دریافت کیا کہ اے آئی نے ایک دوست کی طرف سے بھیجی گئی معلومات میں اس کی دستاویزات کو جعلی بنایا تھا۔ اس نے اتفاقی طور پر یہ بھی دریافت کیا کہ ایسوسی ایٹ پروفیسر، ڈاکٹر آف سائنس ٹران وان کو کا مضمون بھی AI نے جعلی بنایا تھا۔

AI انسانی زندگی کا ایک ناگزیر حصہ بن چکا ہے، تاہم ماہرین ہمیشہ اس بات پر زور دیتے ہیں کہ ہمیں AI کو صرف ایک معاون ٹول کے طور پر دیکھنا چاہیے۔ AI صارفین کو ڈیٹا پر کارروائی کرنے اور AI کے ساتھ "تعاون" کے بعد حاصل ہونے والے نتائج کا جائزہ لینے کے لیے ہمیشہ چوکنا اور باخبر رہنے کی ضرورت ہے۔ خاص طور پر سائنسی تحقیق میں، بہت سے مطالعے سے پتہ چلتا ہے کہ سب سے بڑا مسئلہ جس کے لیے چوکنا رہنے کی ضرورت ہے وہ ڈیٹا اور ماڈلز میں تعصب ہے۔ AI متعصب ہو سکتا ہے، تجزیہ کے نتائج کو مسخ کر سکتا ہے، تعصب یا امتیاز پیدا کر سکتا ہے، اور اچھی طرح سے کنٹرول نہ ہونے پر معلومات میں ہیرا پھیری کر سکتا ہے۔

خاص طور پر، سماجی سائنس کی تحقیق میں AI کے استعمال میں بہت زیادہ احتیاط کی ضرورت ہے۔ چونکہ سماجی علوم جیسے فلسفہ، لسانیات، نسلیات، تاریخ وغیرہ کے شعبے انسانی رویے، ثقافت اور طرز عمل کو تحقیقی اشیاء کے طور پر لیتے ہیں، اس لیے ڈیٹا اکثر گہرائی اور خاصیت کے ساتھ ویتنامی سماجی-ثقافتی تناظر سے منسلک ہوتا ہے۔ اگر AI تربیت کا ڈیٹا تاریخی تعصبات کی عکاسی کرتا ہے، تو جو خطرہ ہو سکتا ہے وہ یہ ہے کہ AI ایسے نتائج اخذ کر سکتا ہے جو صنف، طبقے، نسل یا جغرافیائی خطے کے درمیان عدم مساوات کے مسائل کو بڑھاتا ہے۔ خطرہ اس وقت بھی زیادہ ہوتا ہے جب AI کو انسانی رویے کا تجزیہ کرنے، کھلے سروے کا جواب دینے، یا میڈیا کے مواد میں حصہ لینے کے لیے استعمال کیا جاتا ہے۔

سوشل سائنس کے کچھ ماہرین کے مطابق، AI کو فی الحال کاپی رائٹ یا ادا شدہ ڈیٹا کے ذرائع تک رسائی حاصل کرنے میں دشواری کا سامنا ہے، جس کے نتیجے میں معلومات نامکمل طور پر اپ ڈیٹ ہوتی ہیں۔

قابل فہم کہانیاں بنانے کے لیے دستاویزات کو من گھڑت بنانے کا رجحان اکثر کم مقبول موضوعات میں، محدود ڈیٹا ذرائع جیسے ویتنامی والی زبانوں میں ہوتا ہے، اور صارفین کو خبردار کرنے کے لیے خبردار کیا جانا چاہیے۔ عام طور پر AI سسٹمز اس وقت سماجی اور ثقافتی تناظر کو سمجھنے میں بہت محدود ہیں، اس لیے مبہم، استعارے سے بھرپور سماجی سائنس کے علم کی تشریح میں ان کی مدد واقعی قابل اعتماد نہیں ہے۔

اگرچہ یہ سائنسی تحقیق میں بہت زیادہ صلاحیت لاتا ہے، لیکن AI کے اطلاق میں بہت محتاط رہنے کی ضرورت ہے، اس کی حدود ہیں اور اسے ہمیشہ محقق کی تنقیدی سوچ کی صلاحیت کے ساتھ مل کر چلنا چاہیے۔

یہ دیکھا جا سکتا ہے کہ، اگرچہ یہ سائنسی تحقیق میں بہت زیادہ صلاحیت لاتا ہے، لیکن AI کا اطلاق بہت محتاط، محدود اور ہمیشہ محقق کی تنقیدی صلاحیت کے ساتھ ہونا چاہیے۔ AI استعمال کرنے والے مضمون کو AI کے استعمال میں ان حدود کی واضح طور پر نشاندہی کرنی چاہیے، اس بات کو یقینی بناتے ہوئے کہ AI سائنس کی بنیادی اقدار کو تبدیل نہیں کرتا ہے۔ سائنسی تحقیق کی سالمیت کے تحفظ کے لیے سائنسدانوں کے کردار اور ذمہ داری کو ایک نئی سطح پر اٹھانا ہوگا۔ اس کے علاوہ، ویتنامی ثقافت، روایات اور سماجی اصولوں کے تناظر میں قانونی طور پر پابند AI اخلاقی فریم ورک کی تجویز پیش کرنا ضروری ہے۔

ہمارے پاس محفوظ اور ذمہ دار AI سسٹمز کی تحقیق اور ترقی کو فروغ دینے، منفی اثرات کو محدود کرنے اور سائنس اور ٹیکنالوجی کی وزارت کی طرف سے تجویز کردہ خطرات کو کنٹرول کرنے کے لیے نو اصولوں کا نظام ہے، جو ڈیٹا کی حفاظت کے ساتھ ساتھ انسانی حقوق اور وقار کے احترام، اور AI صارفین کی جوابدہی پر زور دیتا ہے۔ خاص طور پر سائنسی تحقیق میں، پروفیسرز کی ریاستی کونسل نے 2023 میں آفیشل ڈسپیچ نمبر 25/HDGSNN بھی جاری کیا، جس میں درخواست کی گئی کہ انڈسٹری کے پروفیسر ٹائٹل کونسلز اور سائنسی کاموں کے معیار کا جائزہ لینے کے لیے سہولیات ان کاموں کا پتہ لگانے اور جانچنے پر خصوصی توجہ دیں جو AI ٹیکنالوجی کا استعمال کرتے ہیں یا اس کی مدد کرتے ہیں۔ ان تقاضوں کا مقصد یہ یقینی بنانا ہے کہ AI کا استعمال کرتے ہوئے تحقیقی نتائج اب بھی سائنسی معیارات پر پورا اتریں، سائنسی تحقیق اور اشاعت میں AI کے غلط استعمال کو روکیں۔

آنے والے وقت میں، جب مصنوعی ذہانت سے متعلق قانون جاری کیا جائے گا، جس میں AI کے استعمال میں اخلاقیات اور ذمہ داری سے متعلق سخت ضوابط ہوں گے، یہ AI کی ترقی کے لیے ایک صحت مند ماحول پیدا کرنے میں مدد دے گا، تحقیق کے کام میں سائنسدانوں کو زیادہ فعال اور ذمہ دارانہ مدد فراہم کرے گا۔

ڈانس فیسٹیول

ماخذ: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html