خدشہ ہے کہ مصنوعی ذہانت سے ایسے جدید ہتھیار بنائے جائیں گے جو انسانوں کے کنٹرول میں نہیں ہیں۔

حکام بائیو ہتھیار بنانے کے لیے اے آئی کے غلط استعمال اور اس کو کم کرنے کے لیے ضابطے کی ضرورت کے بارے میں فکر مند ہیں۔ (تصویر: Ignatiev)

دنیا کو تباہ کرنے کے لیے AI کا استعمال کرنے والے مجرموں یا دہشت گردوں کے بارے میں تشویش نومبر میں برطانیہ میں عالمی رہنماؤں کی سربراہی کانفرنس میں ایک گرما گرم موضوع ہو گی۔ برطانوی حکام دنیا بھر کا سفر کر رہے ہیں تاکہ ایک مشترکہ بیان پر اتفاق رائے حاصل کرنے کی کوشش کی جا سکے جس میں بری قوتوں کی جانب سے نئی ٹیکنالوجی سے فائدہ اٹھانے کے خطرات سے خبردار کیا گیا ہے۔

برطانوی وزیر اعظم کے کچھ قریبی عہدیداروں کو خدشہ ہے کہ کسی وقت یہ ٹیکنالوجی اتنی طاقتور ہو جائے گی کہ حیاتیاتی ہتھیار یا ایسے ہتھیار بنائے جائیں جو انسانی کنٹرول سے بچ جائیں۔ بڑھتی ہوئی تشویش خطرات کو کم کرنے کے لیے ضابطے کا مطالبہ کر رہی ہے۔ جبکہ ٹیک لیڈرز AI کی ترقی کو روکنے پر متفق ہیں، وہ حریفوں کے ساتھ AI ہتھیاروں کی دوڑ میں بند ہیں۔

دی گارڈین کے مطابق، نومبر کی سربراہی کانفرنس میں "فرنٹیئر اے آئی" کے خطرات پر تبادلہ خیال کیا جائے گا۔ Frontier AI ایک اصطلاح ہے جو جدید ترین AI ماڈلز کے لیے استعمال ہوتی ہے جو انسانی زندگی کو خطرے میں ڈال سکتی ہے۔

اس ہفتے کے شروع میں، برطانیہ کی حکومت نے تصدیق کی کہ کانفرنس میں حیاتیاتی ہتھیاروں، سائبر حملوں، یا انسانی کنٹرول کے بغیر جدید نظام بنانے کے لیے AI کے غلط استعمال جیسے خطرات پر توجہ دی جائے گی۔ اب کئی مہینوں سے، مسٹر سنک AI سے لاحق خطرات کے بارے میں خبردار کر رہے ہیں، اور بین الاقوامی برادری پر زور دیتے ہیں کہ وہ AI کے غلط استعمال کو روکنے کے لیے "ریل" اپنائے۔

پچھلے سال، ایک AI کو 40,000 مختلف ممکنہ طور پر مہلک مالیکیول تجویز کرنے میں صرف چھ گھنٹے لگے، جن میں سے ایک VX سے مشابہت رکھتا تھا، جو اب تک کا سب سے طاقتور اعصابی ایجنٹ ہے۔

2023 کے اوائل میں، محققین نے دریافت کیا کہ ChatGPT انسانوں کو ایک خاص مقصد حاصل کرنے کے لیے دھوکہ دے سکتا ہے۔ اے آئی چیٹ بوٹ نے ایک انسان کو کیپچا حل کرنے پر راضی کیا (ایک ٹول اس بات کا پتہ لگانے کے لیے استعمال کیا جاتا ہے کہ انسان یا بوٹ ہیرا پھیری کر رہا ہے)۔

ایک اور بڑی تشویش "مصنوعی جنرل انٹیلی جنس" (AGI) کا عروج ہے، ایک AI نظام جو انسانوں سے بہتر یا بہتر کام انجام دے سکتا ہے، جو کہ ممکنہ طور پر انسانیت کے لیے خطرہ ہو سکتا ہے۔ کچھ کا خیال ہے کہ AGI صرف چند سال دور ہے۔ تاہم، AI ماہرین اس پر اختلاف کرتے ہیں اور بے قابو AGI کو "سائنس فکشن" کہتے ہیں۔

قطع نظر، وزیر اعظم سنک کانفرنس کو AI کے فوری امکانات کے بجائے وجودی خطرات پر توجہ مرکوز کرنے کے لیے استعمال کرنا چاہیں گے جیسے کہ جعلی تصاویر بنانا یا عوامی پالیسی کے فیصلے کرنے کے لیے استعمال ہونے پر امتیازی سلوک۔

برطانیہ کی حکومت ایک نئی AI ٹاسک فورس پر £100m خرچ کرے گی تاکہ ترقی کے تحت الگورتھم کی جانچ میں مدد کی جا سکے۔ یہ عالمی کاروباری اداروں کی حوصلہ افزائی کرنا چاہتا ہے کہ وہ AI ٹولز کو وسیع پیمانے پر تعینات کرنے سے پہلے تشخیص کے لیے واپس برطانیہ بھیجیں۔

برطانوی نائب وزیر اعظم اولیور ڈاؤڈن کے مطابق، صرف حکومت ہی اس بات کو یقینی بنا سکتی ہے کہ قومی سلامتی کے اہم ترین خدشات کو دور کیا جائے۔

برطانیہ کی حکومت کے ترجمان نے کہا کہ اے آئی میں زندگی کے ہر پہلو کو تبدیل کرنے کی بڑی صلاحیت ہے۔ ٹیکنالوجی کو محفوظ طریقے سے اور ذمہ داری کے ساتھ تیار کرنے کو یقینی بنانے کے لیے AI ٹاسک فورس قائم کی گئی ہے۔ AI کانفرنس ممکنہ خطرات کی ایک حد پر غور کرے گی۔

(دی گارڈین کے مطابق)

ڈیجیٹل مواد کے کاپی رائٹ کے تحفظ میں مصنوعی ذہانت کا استعمال ڈیجیٹل مواد کی مضبوط ترقی کے ساتھ ساتھ کاپی رائٹ کی خلاف ورزی بھی زیادہ سے زیادہ تکلیف دہ ہوتی جا رہی ہے۔ مصنوعی ذہانت (AI) کو مربوط کرنے والے حل انٹرنیٹ پر ڈیجیٹل مواد کے کاپی رائٹ کے تحفظ میں معاون ثابت ہوں گے۔

ماخذ