خدشہ ہے کہ مصنوعی ذہانت انسانی کنٹرول کے بغیر جدید ہتھیار بنائے گی۔

حکام بائیو ہتھیار بنانے کے لیے اے آئی کے غلط استعمال اور اس کو کم کرنے کے لیے ضابطے کی ضرورت کے بارے میں فکر مند ہیں۔ (تصویر: Ignatiev)

یہ خدشہ کہ مجرم یا دہشت گرد دنیا کو تباہ کرنے کے لیے AI کا استعمال کریں گے، نومبر میں برطانیہ میں ہونے والے عالمی رہنماؤں کے اجلاس میں ایک گرما گرم موضوع ہوگا۔ برطانوی حکام دنیا بھر کا سفر کر رہے ہیں تاکہ ایک مشترکہ بیان پر اتفاق رائے حاصل کرنے کی کوشش کی جا سکے جس میں بری اداکاروں کے نئی ٹیکنالوجی سے فائدہ اٹھانے کے خطرات کے بارے میں انتباہ دیا گیا ہے۔

برطانوی وزیر اعظم کے کچھ قریبی عہدیداروں کو خدشہ ہے کہ کسی وقت یہ ٹیکنالوجی اتنی طاقتور ہو جائے گی کہ حیاتیاتی ہتھیار یا ایسے ہتھیار بنائے جائیں جو انسانی کنٹرول سے بچ جائیں۔ بڑھتی ہوئی تشویش خطرات کو کم کرنے کے لیے ریگولیشن کے مطالبات کو جنم دے رہی ہے۔ جبکہ ٹیک لیڈرز AI کی ترقی کو روکنے پر متفق ہیں، وہ حریفوں کے ساتھ AI ہتھیاروں کی دوڑ میں بند ہیں۔

دی گارڈین کے مطابق، نومبر کی سربراہی کانفرنس میں "فرنٹیئر اے آئی" کے خطرات پر تبادلہ خیال کیا جائے گا۔ Frontier AI ایک اصطلاح ہے جو جدید ترین AI ماڈلز کو بیان کرنے کے لیے استعمال ہوتی ہے جو انسانی زندگی کو خطرے میں ڈال سکتی ہے۔

اس ہفتے کے شروع میں، برطانیہ کی حکومت نے تصدیق کی کہ کانفرنس میں حیاتیاتی ہتھیار بنانے کے لیے AI کے غلط استعمال، سائبر حملوں اور انسانی کنٹرول کے بغیر جدید نظام جیسے خطرات پر توجہ دی جائے گی۔ اب کئی مہینوں سے، مسٹر سنک AI سے لاحق خطرات کے بارے میں خبردار کر رہے ہیں، اور بین الاقوامی برادری پر زور دیتے ہیں کہ وہ AI کے غلط استعمال کو روکنے کے لیے "ریل" اپنائے۔

پچھلے سال، ایک AI کو 40,000 مختلف ممکنہ طور پر مہلک مالیکیول تجویز کرنے میں صرف چھ گھنٹے لگے، جن میں سے ایک VX سے مشابہت رکھتا تھا، جو اب تک کا سب سے طاقتور اعصابی ایجنٹ ہے۔

2023 کے اوائل میں، محققین نے دریافت کیا کہ ChatGPT انسانوں کو ایک خاص مقصد حاصل کرنے کے لیے دھوکہ دے سکتا ہے۔ اے آئی چیٹ بوٹ نے ایک انسان کو کیپچا حل کرنے پر راضی کیا (ایک ٹول اس بات کا پتہ لگانے کے لیے استعمال کیا جاتا ہے کہ انسان یا بوٹ ہیرا پھیری کر رہا ہے)۔

ایک اور بڑی تشویش "مصنوعی جنرل انٹیلی جنس" (AGI) کا ابھرنا ہے، ایک AI نظام جو انسانوں سے بہتر یا بہتر طور پر کوئی بھی کام انجام دے سکتا ہے، جو نسل انسانی کے لیے تباہی کا باعث بن سکتا ہے۔ کچھ کا خیال ہے کہ AGI صرف چند سال دور ہے۔ تاہم، AI ماہرین اس پر اختلاف کرتے ہیں اور بے قابو AGI کو "سائنس فکشن" کہتے ہیں۔

قطع نظر، وزیر اعظم سنک کانفرنس کو AI کے فوری امکانات کے بجائے وجودی خطرات پر توجہ مرکوز کرنے کے لیے استعمال کرنا چاہیں گے جیسے کہ جعلی تصاویر بنانا یا عوامی پالیسی کے فیصلے کرنے کے لیے استعمال ہونے پر امتیازی سلوک۔

برطانیہ کی حکومت ایک نئی AI ٹاسک فورس پر £100m خرچ کرے گی تاکہ ترقی کے تحت الگورتھم کو جانچنے میں مدد ملے۔ یہ عالمی کاروباری اداروں کی حوصلہ افزائی کرنا چاہتا ہے کہ وہ AI ٹولز کو وسیع پیمانے پر تعینات کرنے سے پہلے تشخیص کے لیے واپس برطانیہ بھیجیں۔

برطانوی نائب وزیر اعظم اولیور ڈاؤڈن کے مطابق، صرف حکومت ہی اس بات کو یقینی بنا سکتی ہے کہ قومی سلامتی کے اہم ترین خدشات کو دور کیا جائے۔

برطانیہ کی حکومت کے ترجمان نے تبصرہ کیا کہ AI میں زندگی کے ہر پہلو کو تبدیل کرنے کی بڑی صلاحیت ہے۔ ٹیکنالوجی کو محفوظ طریقے سے اور ذمہ داری کے ساتھ تیار کرنے کو یقینی بنانے کے لیے AI ٹاسک فورس قائم کی گئی ہے۔ AI کانفرنس ممکنہ خطرات کی ایک حد پر غور کرے گی۔

(دی گارڈین کے مطابق)

ڈیجیٹل مواد کے کاپی رائٹ کے تحفظ میں مصنوعی ذہانت کا استعمال ڈیجیٹل مواد کی مضبوط ترقی کے ساتھ ساتھ کاپی رائٹ کی خلاف ورزی بھی زیادہ سنگین ہوتی جا رہی ہے۔ مصنوعی ذہانت (AI) کو مربوط کرنے والے حل انٹرنیٹ پر ڈیجیٹل مواد کے کاپی رائٹ کے تحفظ میں معاون ثابت ہوں گے۔

ماخذ