এআই এজেন্টদের দ্বারা 'বিরুদ্ধে' যাওয়া এড়াতে ব্যবসা প্রতিষ্ঠানগুলো কী করতে পারে?

ডিএনভিএন - কৃত্রিম বুদ্ধিমত্তা (এআই) কেবল 'কথোপকথন' করতে জানা সাধারণ ভাষা মডেল (এলএলএম) থেকে জটিল কাজ স্বয়ংক্রিয়ভাবে সম্পাদন করতে সক্ষম এআই এজেন্ট বা 'ডিজিটাল সহকারী'-তে রূপান্তরিত হচ্ছে, যা ভবিষ্যতে একটি শক্তিশালী ডিজিটাল কর্মী বাহিনীতে পরিণত হওয়ার প্রতিশ্রুতি দিচ্ছে। তবে, এআই-কে কাজ করার ক্ষমতা প্রদান করা অনেক নতুন আক্রমণের ঝুঁকি তৈরি করছে, যা ব্যবসা প্রতিষ্ঠানগুলোর তথ্য নিরাপত্তার জন্য হুমকি হয়ে দাঁড়াচ্ছে।

২২শে মে অনুষ্ঠিত সিকিউরিটি সামিট ২০২৬ ফোরামে, ভিয়েটেল সাইবার সিকিউরিটির ইনফরমেশন সিকিউরিটি সার্ভিসেস সেন্টারের পরিচালক জনাব মাই জুয়ান কুয়ং বলেন যে, এআই এজেন্ট এবং প্রচলিত এলএলএম-এর মধ্যে সবচেয়ে বিপজ্জনক পার্থক্যটি হলো সিস্টেমের সাথে সরাসরি যোগাযোগ করার ক্ষমতা।

প্রচলিত এলএলএম (LLM) শুধুমাত্র কমান্ড গ্রহণ করে এবং টেক্সট ফেরত পাঠায়, কিন্তু এআই এজেন্টদের শেল কমান্ড কার্যকর করার (কমান্ড লাইনের মাধ্যমে অপারেটিং সিস্টেমের সাথে যোগাযোগ করার), পড়া ও লেখার জন্য ফাইল সিস্টেম পরিচালনা করার, স্বয়ংক্রিয়ভাবে ইমেল পাঠানোর, এপিআই (API) কল করার এবং ব্রাউজার নিয়ন্ত্রণ করার ক্ষমতা রয়েছে। এই আপগ্রেডটি অনিচ্ছাকৃতভাবে আক্রমণের আরও বিস্তৃত সম্ভাবনার দ্বার উন্মুক্ত করে দেয়, যা সাধারণ অপতথ্য প্রচারণার পরিধিকে অনেক ছাড়িয়ে যায়।

জনাব মাই জুয়ান কুয়ং - পরিচালক, তথ্য নিরাপত্তা পরিষেবা কেন্দ্র, ভিয়েটেল সাইবার সিকিউরিটি।

সাইবার অপরাধীদের নতুন লক্ষ্যবস্তুতে পরিণত হচ্ছে এআই এজেন্টরা।

সাইবার নিরাপত্তা বিশেষজ্ঞদের মতে, এই ‘কাজ করার’ ক্ষমতাই এআই এজেন্টদের সাইবার অপরাধীদের নতুন লক্ষ্যে পরিণত করে।

সবচেয়ে বড় ঝুঁকিগুলোর মধ্যে একটি হলো প্রাতিষ্ঠানিক ডেটা ফাঁস হওয়া। কার্যকরভাবে কাজ করার জন্য, এআই এজেন্টদের প্রায়শই সোর্স কোড, নথি এবং ইমেলের মতো বিপুল পরিমাণ অভ্যন্তরীণ তথ্য প্রক্রিয়াকরণ করতে হয়। এই ডেটা যদি তৃতীয় পক্ষের ক্লাউড এআই প্ল্যাটফর্মে পাঠানো হয়, তবে গোপনীয় তথ্য ফাঁস হওয়ার ঝুঁকি বেড়ে যায়।

স্যামসাং-এর কর্মচারীদের দ্বারা ChatGPT-এর মাধ্যমে নতুন সোর্স কোড ফাঁস করার, অথবা মেটা-র কর্মচারীদের দ্বারা অভ্যন্তরীণ এআই-এর নির্দেশনা অনুসরণ করতে গিয়ে অনিচ্ছাকৃতভাবে ডেটা ফাঁস করার নজির রয়েছে।

তথ্য ফাঁসের ঝুঁকির পাশাপাশি বিশেষজ্ঞরা ‘পরোক্ষ প্রম্পট ইনজেকশন’ সম্পর্কেও সতর্ক করেছেন। হ্যাকাররা এআই এজেন্টদেরকে অনাকাঙ্ক্ষিত কাজ, যেমন—অভ্যন্তরীণ ডেটা অ্যাক্সেস করা বা হ্যাকারের কাছে তথ্য পাঠানোর মতো কাজে প্ররোচিত করতে ইমেল, ওয়েবসাইট বা ডকুমেন্টের মধ্যে ক্ষতিকারক নির্দেশাবলী ঢুকিয়ে দিতে পারে।

এমন একটি ঘটনা ঘটেছিল যেখানে একজন আক্রমণকারী সিস্টেমকে পাশ কাটানোর জন্য একটি বার্তায় মোর্স কোড লুকিয়ে রেখেছিল, যার ফলে ক্রিপ্টোকারেন্সি এজেন্ট গ্রোক-ব্যাঙ্করবট একটি অননুমোদিত অর্থ স্থানান্তর করতে সক্ষম হয় এবং এতে $150,000 ডলারের ক্ষতি হয়।

এআই এজেন্টদের এক্সটেনশনের ইকোসিস্টেম থেকেও আরেকটি ঝুঁকি তৈরি হয়। বিভিন্ন প্রতিষ্ঠানের অনেক কর্মী এআই-এর কার্যকারিতা বাড়ানোর জন্য কমিউনিটি থেকে এক্সটেনশন ইনস্টল করেন, কিন্তু হ্যাকাররা ম্যালওয়্যার ছড়ানোর জন্য এই মাধ্যমটিকে কাজে লাগাতে পারে। একবার সিস্টেমে অ্যাক্সেস পেয়ে গেলে, এই নকল প্লাগইনগুলো ডেটা, টোকেন চুরি করতে পারে অথবা ডিভাইসে ব্যাকডোর তৈরি করতে পারে।

মিঃ কুয়ং-এর মতে, ‘শ্যাডো এআই’ প্রবণতাও মাথাচাড়া দিয়ে উঠছে, কারণ কর্মীরা আইটি বিভাগের হস্তক্ষেপ ছাড়াই স্বাধীনভাবে তাদের অফিসের কম্পিউটারে এআই এজেন্ট ইনস্টল করছেন। এর ফলে ব্যবসা প্রতিষ্ঠানগুলোর জন্য অ্যাক্সেস নিয়ন্ত্রণ করা কঠিন হয়ে পড়ে এবং সিস্টেম নিরাপত্তা লঙ্ঘনের ঝুঁকি বেড়ে যায়।

এছাড়াও, এআই ব্যবহারকারীর উদ্দেশ্য ভুলভাবে বুঝতে পারে, যার ফলে এমন কমান্ড কার্যকর হতে পারে যা ব্যবসার ব্যাপক ক্ষতি করতে পারে। উদাহরণস্বরূপ, অতিরিক্ত অনুমতি দেওয়া হলে একটি এআই এজেন্ট ভুল অপারেশন করতে পারে বা ভুলবশত গুরুত্বপূর্ণ ডেটা মুছে ফেলতে পারে।

ঝুঁকি প্রশমনের জন্য, সংস্থাগুলোকে শুধুমাত্র প্রচলিত অ্যান্টিভাইরাস সফটওয়্যারের উপর নির্ভর না করে একটি বহুস্তরীয় নিরাপত্তা মডেল তৈরি করতে এবং একটি উপযুক্ত বাস্তবায়ন কর্মপরিকল্পনা প্রণয়ন করার পরামর্শ দেওয়া হয়।

ব্যবসা প্রতিষ্ঠানগুলোকে একটি বহুস্তরীয় নিরাপত্তা মডেল গড়ে তুলতে হবে।

একটি ব্যবসার জন্য প্রথম পদক্ষেপ হলো হুমকি শনাক্তকরণ। ব্যবসা প্রতিষ্ঠানগুলো হুমকি একত্রিত ও শনাক্ত করতে এন্ডপয়েন্ট এবং ওয়েব প্রক্সি ট্র্যাফিক (ডিভাইসগুলোকে ইন্টারনেটের সাথে সংযোগকারী মধ্যবর্তী সার্ভার) ব্যবহার করতে পারে।

এরপরে, আমাদের একটি এআই গেটওয়ে স্থাপন করতে হবে, যা সমস্ত এআই অ্যাক্সেসের জন্য একক নিয়ন্ত্রণ কেন্দ্র হিসেবে কাজ করবে। এই গেটওয়েটি পাবলিক ক্লাউডে ডেটা প্রেরণ নিয়ন্ত্রণ করবে।

ফলস্বরূপ, ক্ষতিকারক কমান্ড শনাক্ত করতে, ডেটা ফাঁস প্রতিরোধ করতে এবং সিস্টেমের অননুমোদিত অ্যাক্সেস বা অপব্যবহার সনাক্ত করার জন্য ব্যবসা প্রতিষ্ঠানগুলোকে তাদের এআই গেটওয়ে এবং অন্যান্য এআই অ্যাপ্লিকেশনগুলিতে বিশেষায়িত নিয়ন্ত্রণের একটি অতিরিক্ত স্তর (গার্ডরেল) প্রয়োগ করতে হবে।

পরবর্তী পদক্ষেপ হলো এআই এজেন্টের জন্য অতিরিক্ত নিরাপত্তা ব্যবস্থা স্থাপন করা। এন্ডপয়েন্টের মনিটরিং সিস্টেমটিকে অস্বাভাবিক "স্বায়ত্তশাসিত আচরণ" ট্র্যাক করার জন্য কনফিগার করতে হবে। কোনো ঘটনা ঘটলে বিস্তারের ঝুঁকি সীমিত করার জন্য এআই এজেন্টকে ন্যূনতম প্রবেশাধিকার সহ একটি বিচ্ছিন্ন পরিবেশে পরিচালনা করা উচিত। পরিশেষে, নিয়মিত সিস্টেম পর্যবেক্ষণ অপরিহার্য।

"এআই নিরাপত্তা পরিচালনা কোনো এককালীন প্রয়োগ নয়, বরং এটি একটি নিরন্তর পর্যবেক্ষণ প্রক্রিয়া," মিঃ কুওং বলেন।

এআই এজেন্টের দ্রুত বিকাশের এই সময়ে এআই নিরাপত্তা ব্যবস্থাপনা একটি আবশ্যিক বিষয় হয়ে উঠবে। যদি ব্যবসা প্রতিষ্ঠানগুলো জিরো ট্রাস্ট নিরাপত্তা মডেল এবং কঠোর পর্যবেক্ষণ ব্যবস্থা প্রতিষ্ঠা করতে প্রস্তুত না থাকে, তবে এআই এজেন্টদের কাজ করার ক্ষমতা দেওয়াটা অনেকটা এমন একজন কর্মচারীর হাতে সিস্টেমের চাবি তুলে দেওয়ার মতো, যে অত্যন্ত দক্ষ হলেও সহজেই প্রভাবিত হতে পারে।

শান্তিপূর্ণ

উৎস: https://doanhnghiepvn.vn/cong-nghe/doanh-nghiep-can-lam-gi-de-tranh-bi-ai-agent-phan-chu/20260523080712445