ہیکرز AI چیٹ بوٹ سے 'بات کرکے' کمپنی کی خفیہ معلومات حاصل کر سکتے ہیں۔

ٹیکنالوجی ماہرین کے مطابق، جدید ترین اشارے کی ایک سیریز کا استعمال کرتے ہوئے، ہیکرز کسی کمپنی کے 'خفیہ' ڈیٹا بیس میں بغیر پتہ چلائے گھس سکتے ہیں۔

OpenInfra & Cloud Native Day Vietnam 2025 ایونٹ کا جائزہ جس کی تھیم تھی "ویتنام کا ڈیجیٹل پیش رفت کا دور" - تصویر: CHI HIEU

مصنوعی ذہانت (AI) بہت سی قدریں لاتی ہے، خاص طور پر اب بہت سے کاروباروں کی طرف سے کمپنی کے ملازمین، صارفین جیسے صارفین کی خدمت کے لیے مربوط کیا گیا ہے... یہاں سے، AI- مربوط چیٹ بوٹ سسٹم ہیکرز کے لیے ڈیٹا اسٹوریج سسٹمز پر حملہ کرنے اور معلومات چوری کرنے کے لیے ایک "تنگ دروازہ" بن سکتے ہیں۔

"فی الحال، AI ماڈلز پر حملہ کرنے کے بہت سے طریقے ہیں، جن میں سے سب سے عام 'مواد کو زہر دینا' ہے، جو روایتی معلومات کے تحفظ کے نظام کے لیے 'پوشیدہ' لگتا ہے،" مسٹر ڈاؤ ویت ہنگ نے خبردار کیا، اکامائی ٹیکنالوجیز ویتنام کے کنٹری ڈائریکٹر، اوپن انفرا اینڈ کلاؤڈ نیٹیو ڈے ویتنام 202625 جولائی کو منعقدہ تقریب میں۔

اس تقریب کا اہتمام ویتنام انٹرنیٹ ایسوسی ایشن (VIA) نے ویتنام اوپن انفراسٹرکچر کمیونٹی (VietOpenInfra)، ویتنام کلاؤڈ کمپیوٹنگ اور ڈیٹا سینٹر کلب (VNCDC) کے تعاون سے وزارت سائنس اور ٹیکنالوجی کے تعاون سے کیا تھا۔

90% کاروبار اوپن پلیٹ فارم یا سافٹ ویئر استعمال کر رہے ہیں۔

اپنی افتتاحی تقریر میں، مسٹر وو دی بنہ - نائب صدر اور ویتنام انٹرنیٹ ایسوسی ایشن کے جنرل سیکریٹری - نے قومی ڈیجیٹل تبدیلی کے عمل میں اوپن انفراسٹرکچر اور اوپن سورس کوڈ کی اہمیت پر زور دیا۔

عالمی ٹیکنالوجی میں تیز رفتار تبدیلیوں کے تناظر میں، مسٹر بن نے کہا کہ اوپن انفراسٹرکچر جدت کی بنیاد کے طور پر ترقی کرتا رہتا ہے جب 90% سے زیادہ کاروبار کئی شکلوں میں اوپن پلیٹ فارم یا سافٹ ویئر استعمال کر رہے ہوتے ہیں۔

ریڈ ہیٹ سروے (2024) کے مطابق، ٹیکنالوجی کے 82% رہنما کھلے پلیٹ فارمز اور سافٹ ویئر کو ڈیجیٹل تبدیلی اور جدت کو تیز کرنے کی کلید کے طور پر دیکھتے ہیں۔ Kubernetes، OpenStack، Linux، Ceph، OpenTelemetry جیسے پلیٹ فارمز AI، IoT، 5G/6G اور Cloud Native سسٹم کو چلانے میں تیزی سے اہم کردار ادا کر رہے ہیں۔

"10 سال پہلے، بادل کو آسمان میں بادل سمجھا جا سکتا تھا، اور اوپن سورس ایک 'مارشل آرٹس سیکرٹ' کی طرح لگتا تھا۔ لیکن آج، ہم یہاں ہیں، 180 سے زیادہ ممالک میں عالمی اوپن انفراسٹرکچر کمیونٹی کے ساتھ جڑے ہوئے ہیں، اور مل کر کوڈ کی لائنوں کو جدت کے لیے محرک میں تبدیل کر رہے ہیں،" مسٹر وو دی بن نے شیئر کیا۔

AI چیٹ بوٹ - ہیکرز کے سسٹم میں گھسنے کے لیے "تنگ دروازہ"

"فی الحال، بہت سے کاروبار کھلے، ذمہ دار پلیٹ فارمز کی تاثیر کو مضبوطی سے لاگو کر رہے ہیں جو کام کی کارکردگی کو بہتر بنانے اور صارف کے تجربے کو بڑھانے میں مدد کے لیے AI چیٹ بوٹس جیسے سسٹم کو مربوط کرتے ہیں۔

یہاں سے بھی، AI ماڈلز پر حملے کے بہت سے طریقے، جن میں "مواد کو زہر دینے" کے حملے بھی شامل ہیں، اکامائی ٹیکنالوجیز ویتنام کے کنٹری ڈائریکٹر مسٹر ڈاؤ ویت ہنگ نے خبردار کیا۔

انہوں نے تبصرہ کیا کہ ویتنامی کاروبار جب AI کو تعینات کرتے ہیں تو وہ ابھی تک حملے کی اس شکل کے بارے میں زیادہ نہیں جانتے ہیں۔

اس کے مطابق، برے اداکار AI ماڈل کی غلط معلومات کو مسلسل پوچھنے اور دوبارہ سکھانے کا طریقہ استعمال کرتے ہیں، جس سے معلومات "زہر" ہوتی ہیں۔

اگر کلاؤڈ سسٹم پر موجود معلومات کو "انفیکٹ" کیا گیا ہے اور اس کا پتہ نہیں چل سکا ہے اور اس کا استعمال جاری ہے، تو یہ غلط معلومات فراہم کرے گا یا معلومات حاصل کرنے کے مقصد سے ڈیٹا بیس میں چھپنے کے لیے اس خطرے کو استعمال کرے گا۔

مسٹر ڈاؤ ویت ہنگ، اکامائی ٹیکنالوجیز ویتنام کے کنٹری ڈائریکٹر - تصویر: CHI HIEU

مسٹر ڈاؤ ویت ہنگ نے ایک نایاب کہانی کا حوالہ دیا، جب ایک آٹو کمپنی کا آن لائن سیلز چیٹ بوٹ سسٹم نئی کار صرف $1 میں فروخت کرنے پر راضی ہوا۔

اس کی وجہ یہ ہے کہ چیٹ بوٹ کے ساتھ تبادلہ اور گفت و شنید کے عمل کے دوران، اس صارف نے ڈیٹا بیس میں "چپکے" جانے اور چیٹ بوٹ کو مندرجہ بالا درخواست سے اتفاق کرنے کے لیے راضی کرنے کا ایک طریقہ تلاش کیا۔

ایک اور مثال یہ ہے کہ جب ہیکرز نے کامیابی کے ساتھ کسی کمپنی کے تمام خفیہ دستاویزات اور تنظیمی چارٹ صرف مناسب سوالات لکھ کر اور انہیں اندرونی AI چیٹ بوٹ پر بھیج کر حاصل کر لیے۔

اس خطرے سے، مسٹر ڈاؤ ویت ہنگ نے AI سیکیورٹی حل کا اشتراک کیا تاکہ AI خود AI کی حفاظت کر سکے، یہ ایک ایسی شکل ہے جسے دنیا کے بہت سے بڑے کاروباری ادارے استعمال کرتے ہیں۔

اس حفاظتی طریقہ کے ساتھ، ذخیرہ شدہ ڈیٹا تحفظ کی متعدد تہوں کو مربوط کرتا ہے، جس سے "متاثرہ" ہونا مشکل ہو جاتا ہے۔

AI سیکیورٹی سسٹم اس بات کا پتہ لگا سکتا ہے کہ کون سی معلومات صاف ہیں اور کون سی معلومات پر حملے کے ممکنہ خطرات ہیں، جس سے فوری اور مناسب ہینڈلنگ پلان ہو گا...

واپس موضوع پر

تقویٰ

ماخذ: https://tuoitre.vn/hacker-co-the-lay-thong-tin-tuyet-mat-cua-cong-ty-thong-qua-tam-su-voi-chatbot-ai-20250726155812946.htm