"اے آئی خطرناک کیوں ہے؟"

درحقیقت، یہ پہلا موقع نہیں ہے جب سائنسدانوں نے مصنوعی ذہانت سے انسانیت کے لیے ممکنہ خطرے کے بارے میں خبردار کیا ہو۔ 2014 میں، مشہور برطانوی نظریاتی طبیعیات دان سٹیفن ہاکنگ نے کہا: "مصنوعی ذہانت کی مکمل ترقی انسانیت کو تباہ کر سکتی ہے۔" انہوں نے یہ بھی پیش گوئی کی کہ اگر اس خطرناک ٹیکنالوجی کی تحقیق اور ترقی میں احتیاط نہ برتی گئی تو 500 سال کے اندر انسانیت مکمل طور پر مصنوعی ذہانت سے بدل جائے گی۔ آٹھ سال پہلے، جولائی 2015 میں، مصنوعی ذہانت کی ٹیکنالوجی کے 1,000 سے زیادہ ماہرین، جن میں سٹیفن ہاکنگ، ایلون مسک، نوم چومسکی، اور دیگر شامل تھے، نے ایک پٹیشن پر دستخط کیے جس میں فوجی AI کے میدان میں ہتھیاروں کی دوڑ کے خطرے کے بارے میں انتباہ کیا گیا تھا اور خود مختار ہتھیاروں اور ہتھیاروں کو یکجا کرنے پر مکمل پابندی کا مطالبہ کیا گیا تھا۔ نومبر 2022 میں اوپن اے آئی کی چیٹ جی پی ٹی ایپلی کیشن کے آغاز نے مصنوعی ذہانت کے موروثی خطرات کے حوالے سے ایک اور خطرے کی گھنٹی بجائی۔ درحقیقت، Chat GPT جو کچھ کر رہا ہے اس سے ظاہر ہوتا ہے کہ AI، کسی حد تک، لوگوں کے خیال سے کہیں زیادہ خطرناک ہو گیا ہے۔

مصنوعی ذہانت کے ممکنہ خطرات کا انحصار اس بات پر ہے کہ اسے کیسے استعمال کیا جاتا ہے۔ ابتدائی طور پر، AI کو انسانوں کو ان کے کام میں مدد کرنے کے لیے تیار کیا گیا تھا، خاص طور پر تھکا دینے والے، دہرائے جانے والے کاموں جیسے کہ تصویر کی درجہ بندی اور معلومات کا جائزہ۔ تاہم، حالیہ دنوں میں AI کی تیز رفتار ترقی کے ساتھ، سائنسدانوں اور ٹیکنالوجی کے ماہرین کو تشویش ہے کہ اگر مصنوعی ذہانت کو غیر چیک کیا گیا، یا غلط مقاصد کے لیے پروگرام کیا گیا، تو اس کے انسانیت اور معاشرے کے لیے سنگین نتائج ہو سکتے ہیں۔

عدم تحفظ کا خطرہ

مصنوعی ذہانت قومی سلامتی اور ذاتی حفاظت کے لیے خطرہ بن سکتی ہے۔ ایلون مسک نے خبردار کیا ہے کہ اے آئی جنگ میں ایک خوفناک ہتھیار بن سکتا ہے۔ اگر کوئی قوم ایک اعلیٰ مصنوعی ذہانت کا نظام تیار کر سکتی ہے تو وہ اسے دوسری قوموں پر حملہ کرنے کے لیے استعمال کر سکتی ہے۔ یونیورسٹی آف کیلیفورنیا میں کمپیوٹر سائنس کے پروفیسر سٹورٹ رسل جنہوں نے مصنوعی ذہانت پر تحقیق کرنے میں دہائیاں گزاری ہیں، نے AI سے لاحق سیکیورٹی خطرے سے خبردار کرتے ہوئے کہا کہ اب ہم موجودہ ٹیکنالوجیز کو مربوط اور چھوٹے بنا کر خود مختار ہتھیار تیار کر سکتے ہیں۔

پروفیسر اسٹیورٹ رسل اور فیوچر لائف ریسرچ انسٹی ٹیوٹ (FLI) کے ذریعہ کئے گئے اس تجربے میں ایک سلاٹر بوٹ کا استعمال کیا گیا – ایک مائکروسکوپک فلائنگ ڈیوائس جو کیمروں، سینسرز، امیج پروسیسنگ سوفٹ ویئر، چہرے کی شناخت، 3 گرام دھماکہ خیز چارج، اور ایک تیز رفتار مائیکرو پروسیسر سے لیس ہے جو انسانی دماغی ڈیٹا کے مقابلے میں 0 گنا تیز رفتاری اور 0 گنا زیادہ تیز رفتار مائکرو پروسیسر کی اجازت دیتا ہے۔ اس کے پروگرام شدہ پیرامیٹرز کے مطابق، سلاٹر بوٹ اپنے ہدف کے بارے میں معلومات تلاش کرنے اور اس تک پہنچنے کا راستہ تلاش کرنے کے لیے مسلسل کلاؤڈ ڈیٹا تک رسائی حاصل کرتا ہے۔ ایک بار مل جانے کے بعد، یہ تیز رفتاری سے ہدف کی طرف دھکیلے گا، 3 گرام کے دھماکہ خیز چارج کو دھماکے سے اڑا دے گا، اور کھوپڑی میں گہرائی تک گھس جائے گا، جس سے متاثرہ شخص فوری طور پر ہلاک ہو جائے گا۔

یہ اس کی آسان ترین سطح پر AI کے ساتھ صرف ایک تجربہ تھا۔ اگر AI کو حملے کے نئے، زیادہ نفیس طریقے تیار کرنے کے لیے استعمال کیا جاتا ہے، تو یہ حملہ آوروں کی حملے کی صلاحیتوں میں بھی اضافہ کر سکتا ہے اور روایتی حملوں سے زیادہ سنگین نتائج کا باعث بن سکتا ہے۔ جب AI اس مقام پر ترقی کرتا ہے جہاں وہ بدلتے ہوئے ماحول سے نمٹنے کے لیے اپنے فیصلے خود کر سکتا ہے، یا آزادانہ طور پر متبادل اہداف تلاش کر سکتا ہے، یا اپنے ہدف کی حد کو بڑھا سکتا ہے، تب شاید انسانیت اب محفوظ نہیں رہے گی۔ اس شعبے میں بہت سے ساتھی پروفیسر اسٹیورٹ رسل سے اتفاق کرتے ہیں اور ان کا خیال ہے کہ اس طرح کے تاریک مستقبل کو روکنے کا ابھی بھی ایک موقع ہے، لیکن ہمارے پاس واقعی زیادہ وقت نہیں بچا ہے۔

خطرہ یہ ہے کہ AI منظم، خود مختار، اور نظام کو کنٹرول کر لے گا۔

مشین لرننگ کے ذریعے AI کو غلط ڈیزائن یا غلط طریقے سے "تربیت" دی جا سکتی ہے، جو ممکنہ طور پر ایسے غیر ارادی اعمال کا باعث بنتی ہے جو انسانوں اور ماحول کو نقصان پہنچاتی ہیں۔ مثال کے طور پر، مشین لرننگ کے ساتھ، AI تیزی سے ذہین ہوتا جا رہا ہے۔ جب مصنوعی ذہانت ذہانت کی اس سطح تک پہنچ جاتی ہے جہاں یہ بجلی، نقل و حمل، صحت کی دیکھ بھال اور مالیات جیسے اہم نظاموں کو سپورٹ کرتی ہے، تو یہ ان تمام نظاموں میں مہارت اور کنٹرول کر سکتی ہے، اپنے فیصلے خود کر سکتی ہے اور ہنگامی حالات میں ان پر عمل درآمد کر سکتی ہے۔ تاہم، جب AI بدنیتی پر مبنی ارادے (غلط ڈیزائن کردہ) سے "لیس" ہوتا ہے، تو یہ سنگین نتائج کا سبب بن سکتا ہے، جیسے کہ ٹریفک لائٹس کو غیر فعال کر کے ٹریفک کے نظام میں خلل ڈالنا یا شہری ریل سسٹم کی بجلی منقطع کرنا، سلسلہ حادثات اور بجلی کی بڑے پیمانے پر بندش کا سبب بننا۔

کئی ہالی ووڈ اور بین الاقوامی فلمیں اسی منظر نامے پر مبنی ہیں۔ تاہم، موجودہ AI ٹیکنالوجی کے ساتھ، یہ اب کوئی دور کی بات نہیں ہے بلکہ مکمل طور پر ممکن ہے۔ ایلون مسک کا خیال ہے کہ اگر AI کو بغیر کسی جانچ پڑتال کے اس حد تک ترقی کرنے کی اجازت دی جائے جہاں یہ انسانی مداخلت کے بغیر فیصلوں کو خودکار کر سکتا ہے، تو یہ انسانی بقا کے لیے خطرہ بن سکتا ہے۔ اسی لیے اس نے ہزاروں ٹیکنالوجی ماہرین کے ساتھ ایک خط پر دستخط کیے جس میں AI کی ترقی کو روکنے اور شفاف طریقے سے اس پر سخت کنٹرول کرنے کا مطالبہ کیا گیا۔ ایلون مسک کے مطابق مصنوعی ذہانت کے نظام پیچیدہ، سمجھنا مشکل اور انہیں کنٹرول کرنا بہت مشکل ہے۔ شفافیت کے بغیر، مصنوعی ذہانت کا غیر اخلاقی مقاصد کے لیے استعمال، انسانیت کو نقصان پہنچانا ناگزیر ہے۔

ملازمت کے ضائع ہونے کا خطرہ، رازداری کے حقوق کی خلاف ورزی۔

جب ذاتی معلومات اکٹھا کرنے کے لیے استعمال کیا جاتا ہے تو، مصنوعی ذہانت کی ٹیکنالوجی کا استعمال رازداری کی خلاف ورزی کرنے، غلط معلومات کی مہم چلانے، اور غلط معلومات پھیلانے کے لیے کیا جا سکتا ہے جو سماجی نظام اور سیاسی استحکام کو متاثر کرتی ہے۔ یو ایس آفس آف پرسنل مینجمنٹ (OPM) نیٹ ورک کی ہیکنگ کسی بھی ملک یا تنظیم کے لیے ایک اہم تشویش ہے، کیونکہ اس نے 21.5 ملین موجودہ اور ریٹائرڈ امریکی اہلکاروں کے تفصیلی اور انتہائی حساس ذاتی ڈیٹا سے سمجھوتہ کیا، جس میں ان کی شریک حیات کے بارے میں معلومات، اور سرکاری ملازمت کی درخواستوں کے ڈیٹا جیسے کہ صحت کی حیثیت، رہائش، پیشے، فنگر پرنٹس، اور مالیاتی معلومات شامل ہیں۔ تاہم، اس سے بھی زیادہ تشویشناک حقیقت اس وقت سامنے آئی جب سی آئی اے نے دریافت کیا کہ OPM ڈیٹا چوری کے مرتکب افراد نے ذاتی معلومات کو غلط ثابت کرنے اور ڈیٹا چوری کرنے کے لیے ورچوئل ایجنٹس بنانے کے لیے مصنوعی ذہانت کا استعمال کیا۔ ایک بار چوری ہونے کے بعد، بگ ڈیٹا ٹیکنالوجی کا استعمال کرتے ہوئے معلومات کا تجزیہ، درجہ بندی، اور مخصوص مقاصد کے لیے استحصال کیا جائے گا۔ مصنوعی ذہانت معلومات چوروں کو ڈیٹا کا فائدہ اٹھانے میں لگنے والے وقت کو کم کرنے میں مدد کرتی ہے کیونکہ انسان اتنے کم وقت میں اتنی بڑی معلومات پر کارروائی کرنے سے قاصر ہیں۔

متذکرہ بالا موروثی خطرات کے علاوہ، AI ٹیکنالوجی دیگر خطرات بھی پیدا کرتی ہے جیسے: اس پر ضرورت سے زیادہ انحصار، جس سے حالات پر کنٹرول ختم ہو جاتا ہے اور فیصلہ سازی کی صلاحیت میں کمی آتی ہے۔ مصنوعی ذہانت بھی لاکھوں، یہاں تک کہ لاکھوں لوگوں کو اپنی ملازمتوں سے محروم کرنے کا سبب بنے گی، خاص طور پر کم علمی مواد کے ساتھ خالص دستی مزدوری کی ملازمتوں میں۔ اس کا نتیجہ یہ ہوگا کہ سنگین سماجی مسائل جیسے بے روزگاری، جرائم اور امیر اور غریب کے درمیان فرق اور بھی واضح ہو جائے گا۔ مزید برآں، وشوسنییتا بھی ایک اہم مسئلہ ہے۔ صحت کی دیکھ بھال اور فوجداری انصاف جیسے انتہائی مخصوص شعبوں میں فیصلوں کی قابل اعتمادی بہت اہم ہے۔ ان شعبوں میں فیصلہ سازی میں مدد کرنے کے لیے AI کا استعمال کرتے وقت، اگر ٹیکنالوجی کافی حد تک قابل اعتماد نہیں ہے، ڈیٹا کی بنیاد پر کام کرتی ہے جو کسی ایک یا لوگوں کے گروپ کی حمایت کرتا ہے، یا جان بوجھ کر مسخ کیا جاتا ہے، تو ان فیصلوں کے سنگین نتائج کا امکان ہوتا ہے۔

ہم اسے کیسے روک سکتے ہیں؟

مذکورہ بالا خطرات اسی وجہ سے ہیں کہ ایلون مسک اور ٹیکنالوجی کے ماہرین AI کی بے قابو ترقی کے بارے میں فکر مند ہیں اور انہوں نے خطوط لکھے ہیں جس میں اقوام متحدہ اور بین الاقوامی تنظیموں پر زور دیا ہے کہ وہ AI کی ترقی میں حفاظت اور اخلاقیات کو سختی سے کنٹرول کریں؛ اور اس بات کو یقینی بنانے کے لیے بین الاقوامی تعاون کو مضبوط کرنا کہ AI ٹیکنالوجی کو انسانیت اور معاشرے کے لیے فائدہ مند طریقے سے استعمال کیا جائے۔ کچھ مخصوص اقدامات جن کا ذکر کیا جا سکتا ہے ان میں شامل ہیں:

- سسٹم کی وشوسنییتا کنٹرول: AI کو سخت، متواتر اور مسلسل کوالٹی کنٹرول، نگرانی، اور نگرانی کے طریقوں کے ذریعے حفاظت اور وشوسنییتا کو یقینی بنانے کے لیے ڈیزائن اور تیار کرنے کی ضرورت ہے تاکہ یہ یقینی بنایا جا سکے کہ AI نظام انسانوں کے ارادے کے مطابق چل رہا ہے اور اس کے ناقابل اعتبار ہونے سے ناپسندیدہ اثرات سے بچا جا سکتا ہے۔

مصنوعی ذہانت (AI) ٹیکنالوجی کو اخلاقی اقدار اور سماجی اصولوں کے مطابق کام کرنے کے لیے پروگرام کرنے کی ضرورت ہے۔ ان ضوابط اور معیارات کو واضح طور پر قائم کیا جانا چاہیے اور ان کی نگرانی کی جانی چاہیے تاکہ یہ یقینی بنایا جا سکے کہ وہ لوگوں یا تنظیموں کے لیے کوئی نقصان دہ یا نقصان دہ کام نہیں کرتے ہیں۔ AI نظام کی کارکردگی کا تجزیہ، جائزہ لینے اور نگرانی کا عمل بھی باقاعدگی سے ہونا چاہیے تاکہ یہ یقینی بنایا جا سکے کہ یہ اخلاقی طور پر کام کرتا ہے، معاشرے کی مشترکہ اقدار کی خلاف ورزی یا ان کو ختم نہیں کرتا، منفی اثرات کا سبب نہیں بنتا، اور علم اور اقدار کی درست ترسیل کو یقینی بناتا ہے۔

صحافت مصنوعی ذہانت سے سب سے زیادہ متاثر ہونے والی صنعتوں میں سے ایک ہے۔ مستقبل میں، ریڈیو پروگراموں کے لیے آف اسکرین پریزینٹرز کی ضرورت نہیں رہے گی، اور ٹیلی ویژن شوز کے لیے ورچوئل پریزنٹرز بھی غالب ہو جائیں گے۔

- عارضی طور پر مصنوعی ذہانت کے نظام کی "تربیت" کو کم از کم چھ ماہ کے لیے روک دیں تاکہ پورے معاملے کا از سر نو جائزہ لیا جا سکے۔ یہ وقفہ عوامی، کنٹرول شدہ ہونا چاہیے اور تربیت میں شامل تمام اہم اسٹیک ہولڈرز کو اس کی تعمیل کرنی چاہیے۔ ضرورت پڑنے پر حکومتوں کو عارضی پابندیاں لگانی چاہئیں۔ اس کا مطلب AI کی ترقی کو مکمل طور پر روکنا نہیں ہے، بلکہ دوسرے ترقیاتی ماڈلز کی طرف منتقل ہونے کی خطرناک دوڑ میں محض ایک عارضی وقفہ ہے جو AI سسٹمز کو زیادہ درست، محفوظ، قابل فہم، شفاف، متعلقہ، قابل اعتماد اور وفادار بناتے ہیں۔ یہ ایک جامع حل ہے جس کی ایلون مسک اور ان کے ساتھیوں نے اپنے کھلے خط میں وکالت کی ہے، لیکن اس کی فزیبلٹی کم ہے۔ تمام آزاد لیبارٹریوں کے لیے ایسی غیر پابند اور بین الاقوامی اپیل کی تعمیل کرنا بہت مشکل ہے۔

- ممالک اور آزاد AI تحقیقی تنظیموں کے درمیان تعاون اور معلومات کے تبادلے کو مضبوط بنانا اس بات کو یقینی بنانے کے لیے اہم ہے کہ AI کو مستقبل میں محفوظ طریقے سے تیار اور استعمال کیا جائے۔ تعاون اور معلومات کا تبادلہ کسی بھی ابھرتے ہوئے خطرات سے بروقت انتباہات اور روک تھام کو بھی قابل بناتا ہے۔

عام طور پر، AI پہلے سے ہی ہمارے ارد گرد ہر جگہ موجود ہے، اور مصنوعی ذہانت سے شاعری، موسیقی اور مضامین لکھنے جیسی کہانیاں حقیقت بن چکی ہیں، اب سائنس فکشن نہیں رہی۔ اس مضمون کے مصنف نے تحریر میں مدد کے لیے کمپیوٹر اور فون پر AI ٹیکنالوجی کا استعمال کیا ہے، جس سے عمل کو ہموار اور تیز تر بنایا گیا ہے۔ خاص طور پر، تعارفی پیراگراف (chapeau) اور کچھ خیالات AI کی طرف سے تجویز کیے گئے تھے، اور اس سے بھی زیادہ قابل ذکر بات یہ ہے کہ اس مضمون میں استعمال ہونے والی تمام تصاویر AI نے بنائی تھیں۔ مصنوعی ذہانت کی ٹیکنالوجی انسانوں کے کام اور زندگی کے معیار کو بہتر بنانے میں بہت کارآمد ہے لیکن اسے قابو سے باہر ہونے اور مستقبل میں انسانوں کے لیے ممکنہ متبادل بننے سے روکنے کے لیے اسے سختی سے کنٹرول کرنے کی ضرورت ہے، جیسا کہ نظریاتی ماہر طبیعیات اسٹیفن ہاکنگ نے پیش گوئی کی تھی۔

متن اور تصاویر: HUU DUONG

ماخذ