AI ایجنٹوں کے "مخالف" ہونے سے بچنے کے لیے کاروبار کیا کر سکتے ہیں؟

DNVN - AI سادہ لینگویج ماڈلز (LLMs) سے تیار ہو رہا ہے جو صرف AI ایجنٹس - "ڈیجیٹل اسسٹنٹس" سے "بات چیت" کرنے کا طریقہ جانتے ہیں - جو مستقبل میں ایک طاقتور ڈیجیٹل افرادی قوت بننے کا وعدہ کرتے ہوئے پیچیدہ کام خود بخود انجام دینے کی صلاحیت رکھتے ہیں۔ تاہم، AI کو عمل کرنے کا اختیار دینے سے حملے کے بہت سے نئے خطرات پیدا ہو رہے ہیں، جس سے کاروبار کی معلومات کی حفاظت کو خطرہ ہے۔

Tạp chí Doanh Nghiệp•23/05/2026

22 مئی کو منعقدہ سیکیورٹی سمٹ 2026 فورم میں، مسٹر مائی شوان کوونگ - انفارمیشن سیکیورٹی سروسز سینٹر کے ڈائریکٹر، وائٹل سائبر سیکیورٹی، نے کہا کہ AI ایجنٹوں اور روایتی LLM کے درمیان سب سے خطرناک فرق ان کی سسٹم کے ساتھ براہ راست بات چیت کرنے کی صلاحیت میں مضمر ہے۔

جب کہ روایتی LLMs صرف کمانڈز وصول کرتے ہیں اور ٹیکسٹ واپس کرتے ہیں، AI ایجنٹوں کے پاس شیل کمانڈز (کمانڈ لائن کے ذریعے آپریٹنگ سسٹم کے ساتھ تعامل)، پڑھنے اور لکھنے کے لیے فائل سسٹم میں ہیرا پھیری کرنے، خود بخود ای میلز بھیجنے، APIs کو کال کرنے اور براؤزرز کو کنٹرول کرنے کی صلاحیت ہوتی ہے۔ یہ اپ گریڈ نادانستہ طور پر حملے کے امکانات کی ایک وسیع رینج کو کھولتا ہے، جو عام ڈس انفارمیشن مہموں کے دائرہ کار سے بہت آگے جاتا ہے۔

Ông Mai Xuân Cường - Giám đốc Trung tâm Dịch vụ ATTT, Viettel Cyber Security..

مسٹر مائی شوان کوونگ - انفارمیشن سیکیورٹی سروسز سینٹر کے ڈائریکٹر، ویٹل سائبر سیکیورٹی۔

AI ایجنٹس سائبر جرائم پیشہ افراد کے لیے ایک نیا ہدف بن رہے ہیں۔

سائبرسیکیوریٹی ماہرین کے مطابق، "کارروائی" کرنے کی یہ صلاحیت ہی AI ایجنٹس کو سائبر کرائمینلز کے لیے ایک نیا ہدف بناتی ہے۔

سب سے بڑے خطرات میں سے ایک انٹرپرائز ڈیٹا کا لیک ہونا ہے۔ مؤثر طریقے سے کام کرنے کے لیے، AI ایجنٹوں کو اکثر اندرونی معلومات جیسے سورس کوڈ، دستاویزات اور ای میلز کی بڑی مقدار پر کارروائی کرنی پڑتی ہے۔ اگر یہ ڈیٹا تھرڈ پارٹی کلاؤڈ AI پلیٹ فارم پر بھیجا جاتا ہے تو، خفیہ معلومات کے سامنے آنے کا خطرہ بڑھ جاتا ہے۔

سام سنگ کے ملازمین کی جانب سے چیٹ جی پی ٹی کے ذریعے نیا سورس کوڈ لیک کرنے کے کیسز ریکارڈ کیے گئے ہیں، یا میٹا ملازمین نے نادانستہ طور پر اندرونی AI کی ہدایات پر عمل کرتے ہوئے ڈیٹا کو لیک کیا ہے۔

ڈیٹا لیک ہونے کے خطرے کے علاوہ، ماہرین "بالواسطہ فوری انجیکشن" کے بارے میں بھی خبردار کرتے ہیں۔ ہیکرز ای میلز، ویب سائٹس، یا دستاویزات میں بدنیتی پر مبنی ہدایات کو ایمبیڈ کر سکتے ہیں تاکہ AI ایجنٹوں کو غیر ارادی کارروائیوں، جیسے کہ اندرونی ڈیٹا تک رسائی حاصل کرنا یا ہیکر کو معلومات بھیجنے کے لیے پھنسایا جا سکے۔

ایک ایسا معاملہ تھا جب ایک حملہ آور نے سسٹم کو نظرانداز کرنے کے لیے ایک پیغام میں مورس کوڈ چھپا دیا تھا، جس سے کرپٹو کرنسی ایجنٹ Grok-Bankrbot کو غیر مجاز رقم کی منتقلی کی اجازت دی گئی تھی، جس کے نتیجے میں $150,000 کا نقصان ہوا۔

ایک اور خطرہ AI ایجنٹوں کے لیے ایکسٹینشن کے ماحولیاتی نظام سے پیدا ہوتا ہے۔ کاروبار کے اندر بہت سے ملازمین AI کی فعالیت کو بڑھانے کے لیے کمیونٹی سے ایکسٹینشنز انسٹال کرتے ہیں، لیکن ہیکرز میلویئر پھیلانے کے لیے اس چینل کا استحصال کر سکتے ہیں۔ سسٹم تک رسائی حاصل کرنے کے بعد، یہ جعلی پلگ ان ڈیٹا، ٹوکن چوری کر سکتے ہیں یا ڈیوائس پر بیک ڈور بنا سکتے ہیں۔

مسٹر کوونگ کے مطابق، "شیڈو اے آئی" کا رجحان اس وقت بھی ابھر رہا ہے جب ملازمین آئی ٹی ڈیپارٹمنٹ سے گزرے بغیر اپنے کام کے کمپیوٹرز پر آزادانہ طور پر اے آئی ایجنٹس انسٹال کرتے ہیں۔ اس سے کاروبار کے لیے رسائی کو کنٹرول کرنا مشکل ہو جاتا ہے اور سسٹم سیکیورٹی کی خلاف ورزیوں کا خطرہ بڑھ جاتا ہے۔

مزید برآں، AI صارف کے ارادوں کی غلط تشریح کر سکتا ہے، جس کے نتیجے میں ان احکامات پر عمل درآمد ہو سکتا ہے جو کاروبار کو اہم نقصان پہنچا سکتے ہیں۔ مثال کے طور پر، ایک AI ایجنٹ غلط آپریشن کر سکتا ہے یا ضرورت سے زیادہ اجازت ملنے پر غلطی سے اہم ڈیٹا کو حذف کر سکتا ہے۔

خطرات کو کم کرنے کے لیے، تنظیموں کو مشورہ دیا جاتا ہے کہ وہ مکمل طور پر روایتی اینٹی وائرس سافٹ ویئر پر انحصار کرنے کے بجائے ایک ملٹی لیئرڈ سیکیورٹی ماڈل بنائیں اور ایک مناسب نفاذ کا روڈ میپ تیار کریں۔

کاروباری اداروں کو ایک کثیر پرتوں والا سیکیورٹی ماڈل بنانے کی ضرورت ہے۔

کاروبار کو جو پہلا قدم اٹھانے کی ضرورت ہے وہ خطرے کا پتہ لگانا ہے۔ کاروبار خطرات کو جمع کرنے اور شناخت کرنے کے لیے اینڈ پوائنٹس اور ویب پراکسی ٹریفک (انٹرنیٹ سے آلات کو جوڑنے والے انٹرمیڈیٹ سرورز) کا استعمال کر سکتے ہیں۔

اس کے بعد، ہمیں ایک AI گیٹ وے قائم کرنے کی ضرورت ہے، جو اسے تمام AI رسائی کے لیے واحد کنٹرول پوائنٹ بناتا ہے۔ یہ گیٹ وے پبلک کلاؤڈ پر ڈیٹا کی ترسیل کو کنٹرول کرے گا۔

اس کے بعد، کاروباری اداروں کو اپنے AI گیٹ وے اور دیگر AI ایپلی کیشنز پر خصوصی کنٹرول کی ایک اضافی پرت کو لاگو کرنے کی ضرورت ہے تاکہ نقصان دہ کمانڈز کی نشاندہی کی جا سکے، ڈیٹا لیک ہونے سے بچایا جا سکے، اور سسٹم کی غیر مجاز رسائی یا استحصال کا پتہ لگایا جا سکے۔

اگلا مرحلہ AI ایجنٹ کے لیے کمک قائم کرنا ہے۔ اختتامی نقطہ پر نگرانی کے نظام کو غیر معمولی "خودمختار رویے" کو ٹریک کرنے کے لیے ترتیب دیا جانا چاہیے۔ AI ایجنٹ کو ایک الگ تھلگ ماحول میں کام کرنا چاہیے جس میں کم سے کم رسائی ہو تاکہ کوئی واقعہ پیش آنے کی صورت میں پھیلنے کے خطرے کو محدود کیا جا سکے۔ آخر میں، باقاعدہ نظام کی نگرانی ضروری ہے.

"AI سیکورٹی گورننس ایک بار کی تعیناتی نہیں ہے، بلکہ ایک مسلسل نگرانی کا عمل ہے،" مسٹر کوونگ نے کہا۔

تیز رفتار AI ایجنٹ کی ترقی کی مدت کے دوران AI سیکیورٹی مینجمنٹ ایک لازمی ضرورت بن جائے گی۔ اگر کاروبار زیرو ٹرسٹ سیکیورٹی ماڈلز اور سخت نگرانی قائم کرنے کے لیے تیار نہیں ہیں، تو AI ایجنٹوں کو کام کرنے کے لیے بااختیار بنانا ایسے ملازم کے حوالے کرنے کے مترادف ہے جو کہ انتہائی ہنر مند ہونے کے باوجود، ہیرا پھیری کے لیے بہت حساس ہے۔

پرامن

ماخذ: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445