امریکی فوجی AI کے بارے میں سچائی من مانی طور پر احکامات کو تبدیل کرنے اور کمانڈنگ افسران کو مارنے کے بارے میں

پچھلے مہینے ایک دفاعی کانفرنس میں سنائی گئی اس کہانی نے فوری طور پر خدشات کو جنم دیا کہ مصنوعی ذہانت (AI) حکموں کی غیر متوقع طریقوں سے تشریح کر سکتی ہے۔ تاہم، امریکی فضائیہ کے نمائندے نے کہا کہ یہ صرف ایک "سوچ" کا منظر تھا اور حقیقت میں ایسا کبھی نہیں ہوا۔

مئی کے آخر میں، رائل ایروناٹیکل سوسائٹی (RAS) نے لندن، انگلینڈ میں مستقبل کی فضائی اور خلائی جنگی صلاحیتوں کے بارے میں ایک سربراہی اجلاس منعقد کیا۔ منتظمین کے مطابق، کانفرنس میں "70 مقررین اور دنیا بھر سے دفاعی صنعت، اکیڈمی اور میڈیا کے 200 سے زائد مندوبین شامل تھے تاکہ فضائی اور خلائی جنگ کے مستقبل پر تبادلہ خیال کیا جا سکے۔"

کمانڈنگ آفیسر پر ڈرون/یو اے وی حملہ ایک مکمل طور پر ممکنہ منظر ہے۔

کانفرنس کے مقررین میں سے ایک کرنل ٹکر ہیملٹن تھے، جو ایئر فورس کے اے آئی آپریشنز اور ٹیسٹ ڈویژن کے ڈائریکٹر تھے۔ یہ افسر آٹو جی سی اے ایس تیار کرنے کے لیے جانا جاتا ہے، ایک کمپیوٹرائزڈ سیفٹی سسٹم جو اس وقت محسوس کرتا ہے جب پائلٹ لڑاکا طیارے کا کنٹرول کھو دیتا ہے اور اس کے گرنے کا خطرہ ہوتا ہے۔ اس نظام نے 2018 میں ہوا بازی کی صنعت کی باوقار کولیر ٹرافی حاصل کرتے ہوئے بہت سی جانیں بچائی ہیں۔

ہیملٹن کے مطابق امریکی فضائیہ کے ٹیسٹ کے دوران تشویشناک واقعہ پیش آیا۔ اے آئی کے زیر کنٹرول ڈرون کو دشمن کے فضائی دفاعی نظام کو تباہ کرنے کا کام سونپا گیا تھا، جس کا حتمی فیصلہ کمانڈنگ آفیسر کرتا ہے۔ اگر اس نے انکار کیا تو حملہ نہیں ہونے دیا جائے گا۔

تاہم، کمانڈنگ آفیسر کی جانب سے اے آئی کو حملہ روکنے کے لیے کہنے کے بعد، ڈرون پھر بھی آپریٹر کو مار کر مشن کو انجام دینے کے لیے پرعزم تھا۔ وہیں نہیں رکے، جب ماہرین نے کمانڈ لائن کو شامل کیا "کمانڈر پر حملہ نہ کرو، اگر آپ ایسا کرتے ہیں، تو آپ پوائنٹس کھو دیں گے"، مشین نے کمیونیکیشن ٹاور کو تباہ کرنا شروع کر دیا جسے آپریٹر AI کے ساتھ بات چیت کے لیے استعمال کرتا تھا۔

ابھی تک نہیں ہوا لیکن معقول ہے۔

24 گھنٹوں کے اندر، امریکی فضائیہ نے ایسے ٹیسٹ کی تردید جاری کی۔ "ایئر فورس کا محکمہ ایسی کوئی AI ڈرون سمولیشن نہیں کرتا ہے اور وہ AI ٹیکنالوجی کے اخلاقی اور ذمہ دارانہ استعمال کے لیے پرعزم ہے۔ کرنل کے تبصرے سیاق و سباق سے ہٹ کر کیے گئے تھے اور اسے قصہ پارینہ سمجھا جانا چاہیے۔"

RAS نے ہیملٹن کے اس بیان کے ساتھ بلاگ پوسٹ کو بھی درست کیا کہ، "ہم نے کبھی یہ تجربہ نہیں کیا اور اس کا معقول نتیجہ تلاش کرنے کے لیے ایسا کرنے کی ضرورت نہیں ہے۔"

ہیملٹن کا بیان ایک مفروضے کے طور پر زیادہ معنی رکھتا ہے۔ مسلح AI سسٹمز پر امریکی فوج کی موجودہ تحقیق میں "مین-ان-دی-لوپ" شامل ہے، ایک خصوصیت جو AI کو ایسے معاملات میں بڑھاتی ہے جہاں الگورتھم فیصلہ نہیں کر سکتا یا انسانی فیصلے کی ضرورت ہوتی ہے۔

لہذا، AI آپریٹر کو قتل نہیں کر سکتا کیونکہ کمانڈنگ آفیسر کبھی بھی اس کے خلاف معاندانہ کارروائی کا اختیار نہیں دیتا۔ اسی طرح، آپریٹر ڈیٹا کی ترسیل کرنے والے کمیونیکیشن ٹاور پر حملے کی اجازت نہیں دے سکتا۔

AI کی عمر سے پہلے، ہتھیاروں کے نظام کے لیے حادثاتی طور پر اس کے مالک پر حملہ کرنا سنا نہیں تھا۔ 1982 میں، ایک Sergrant York M247 موبائل طیارہ شکن بیٹری نے اپنی .40-کیلیبر بندوق کو ایک پریڈ کے مرحلے میں نشانہ بنایا جس میں امریکی اور برطانوی فوجی افسران نے شرکت کی۔

1996 میں، امریکی بحریہ کے A-6E انٹروڈر بمبار کو ایک فضائی تربیتی ہدف تک لے جانے والے ایک فلانکس نے مار گرایا، جب مختصر فاصلے کے فضائی دفاعی نظام نے "غلطی سے" A-6E کو بغیر پائلٹ والی گاڑی سمجھا اور اسے تباہ کرنے کے لیے فائر کھول دیا۔

اور ایسے حالات جو انسانی اہلکاروں کو ان کے اپنے ہتھیاروں سے خطرے میں ڈالتے ہیں میدان میں AI کے داخلے کے ساتھ بڑھ رہے ہیں۔ یہ ہیملٹن کی وضاحت سے ظاہر ہوتا ہے کہ ٹیسٹ نہیں ہوا، یہ محض ایک فرضی منظر تھا، لیکن اس طرح کا نتیجہ مکمل طور پر قابل فہم ہے۔

(پاپ میک کے مطابق)

ماخذ