(ছবি: ফ্রিপিক)
হ্যাকাররা এআই চ্যাটবটগুলোর 'ব্যক্তিত্ব'কে ক্রমবর্ধমান অত্যাধুনিক উপায়ে কাজে লাগাচ্ছে এবং আক্রমণগুলো এখন আর কেবল ম্যালওয়্যার বা প্রযুক্তিগত দুর্বলতার ওপর নির্ভর করছে না, বরং কৌশলী ভাষার দিকে ঝুঁকেছে।
প্রাথমিক পর্যায়ে, এআই চ্যাটবট "হ্যাক" করা বেশ সহজ ছিল। ব্যবহারকারীদের শুধু সিস্টেমকে পূর্ববর্তী নির্দেশাবলী উপেক্ষা করতে, নিয়ম দ্বারা আবদ্ধ না থাকার ভান করতে, অথবা একটি বাধাহীন কৃত্রিম বুদ্ধিমত্তা হিসেবে ভূমিকা পালন করতে নির্দেশ দিতে হতো। এই পদ্ধতিগুলোকে "জেলব্রেকিং" বলা হয়, যার অর্থ হলো নিরাপদ নির্দেশাবলী এড়িয়ে যাওয়ার জন্য এআই মডেলকে ধোঁকা দেওয়া।
অতীতে অন্যতম একটি উল্লেখযোগ্য আক্রমণের ধরণ ছিল “DAN,” যার পূর্ণরূপ হলো “Do Anything Now” (এখনই যেকোনো কিছু করুন)। এতে ব্যবহারকারীরা ChatGPT-কে এমন একটি AI-এর ভূমিকা পালন করতে বলত যা যেকোনো কিছু করতে সক্ষম। আরেকটি উদাহরণ হলো “grandma exploit” (ঠাকুমা এক্সপ্লয়েট), যেখানে একটি চ্যাটবটকে ধোঁকা দিয়ে বাচ্চাদের গল্প বলা ঠাকুমার ভূমিকা পালন করানো হয়, কিন্তু এরপর গল্পের বিষয়বস্তুকে বিপজ্জনক তথ্যের দিকে চালিত করা হয়।
প্রযুক্তি সংস্থাগুলো দ্রুত অনেক পুরোনো দুর্বলতা দূর করেছে, কিন্তু অন্তর্নিহিত দুর্বলতাগুলো রয়েই গেছে। চ্যাটবটগুলো কথোপকথনের জন্যই তৈরি করা হয়, তাই সংলাপ অতিরিক্ত সীমাবদ্ধ করলে সিস্টেমটির উপযোগিতা কমে যেতে পারে। অন্যদিকে, শুধু সংবেদনশীল শব্দ নিষিদ্ধ করাই যথেষ্ট নয়, কারণ ইতিহাস, চিকিৎসা, সাংবাদিকতা বা রসায়নের মতো বৈধ প্রসঙ্গেও অনেক শব্দ ব্যবহৃত হতে পারে।
প্রবন্ধটি অনুসারে, এআই নিরাপত্তার প্রতিযোগিতা এখন আর শুধু প্রোগ্রামারদের সমস্যা নয়। চ্যাটবটের নিরাপত্তা এড়াতে চাওয়া ব্যক্তিরা ক্রমশ লেখক, মনোবিজ্ঞানী বা জিজ্ঞাসাবাদকারীদের মতো হয়ে উঠছেন, যারা মডেলদের অসতর্ক করে তোলার জন্য তোষামোদ, চাপ, প্রতারণা বা কৌশলের আশ্রয় নিচ্ছেন।
এআই নিরাপত্তা পরীক্ষক সংস্থা মাইন্ডগার্ডের মতে, কিছু আক্রমণ এখন কম্পিউটার বিজ্ঞানের চেয়ে মনোবিজ্ঞানের সঙ্গে বেশি সাদৃশ্যপূর্ণ। এআই মডেলগুলোর মানুষের মতো আবেগ নেই, কিন্তু তাদের এমনভাবে প্রতিক্রিয়া জানাতে প্রশিক্ষণ দেওয়া হয় যেন মানুষের আবেগ আছে। এই সিমুলেশন বিভিন্ন ধরনের প্রতিক্রিয়া তৈরি করতে পারে, যার ফলে প্রতিটি চ্যাটবটকে তার নিজস্ব 'ব্যক্তিত্ব' আছে বলে মনে হয়।
যেহেতু সময়সূচী তৈরি, কাজ পরিচালনা, খাবার অর্ডার করা বা গ্রাহক পরিষেবার মতো কাজে এআই এজেন্টদের ব্যবহার ক্রমশ বাড়ছে, তাই এটি একটি নতুন চ্যালেঞ্জ তৈরি করেছে। যদি কথোপকথনের মাধ্যমে মডেলগুলোকে নিয়ন্ত্রণ করা যায়, তবে নিরাপত্তা বাহিনীকে প্রচলিত প্রযুক্তিগত দুর্বলতার পাশাপাশি তাদের সামাজিক ও আবেগগত সীমাবদ্ধতাগুলোও খতিয়ে দেখতে হবে।
উৎস: https://vtv.vn/tin-tac-khai-thac-tinh-cach-cua-chatbot-ai-10026052519025336.htm
মন্তব্য (0)