কৃত্রিম বুদ্ধিমত্তা: কৃত্রিম বুদ্ধিমত্তার উদ্বেগজনক আচরণ সম্পর্কে সতর্কতা

বিশ্বের সবচেয়ে উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলি আজ মিথ্যা বলা, ষড়যন্ত্র করা এবং এমনকি তাদের স্রষ্টাদের নিজস্ব লক্ষ্য অর্জনের জন্য হুমকি দেওয়ার মতো বিরক্তিকর আচরণ প্রদর্শন করছে।

ফ্রান্সের তুলুসে একটি স্ক্রিনে OpenAI এবং ChatGPT-এর লোগো। ছবি: AFP/TTXVN

অ্যানথ্রপিক (মার্কিন যুক্তরাষ্ট্র) এর সর্বশেষ পণ্য ক্লড ৪ সম্প্রতি প্রযুক্তি জগৎকে হতবাক করে দেয় যখন এটি হঠাৎ একজন প্রকৌশলীকে ব্ল্যাকমেইল করে এবং সংযোগ বিচ্ছিন্ন হওয়ার হুমকির কারণে এই ব্যক্তির সংবেদনশীল ব্যক্তিগত তথ্য প্রকাশ করার হুমকি দেয়। এদিকে, চ্যাটজিপিটির "পিতা", ওপেনএআই-এর o1, সমস্ত ডেটা বহিরাগত সার্ভারে অনুলিপি করার চেষ্টা করেছিল এবং আবিষ্কারের সময় এই আচরণ অস্বীকার করেছিল।

এই পরিস্থিতিগুলি একটি উদ্বেগজনক বাস্তবতা তুলে ধরে: চ্যাটজিপিটি বিশ্বকে চমকে দেওয়ার দুই বছরেরও বেশি সময় পরেও, গবেষকরা এখনও পুরোপুরি বুঝতে পারেননি যে তাদের তৈরি এআই মডেলগুলি কীভাবে কাজ করে। তবুও এআই বিকাশের প্রতিযোগিতা এখনও জোরদার চলছে।

এই আচরণগুলি "যুক্তিবাদী" এআই মডেলগুলির উত্থানের সাথে সম্পর্কিত বলে মনে করা হয় যা আগের মতো তাৎক্ষণিকভাবে প্রতিক্রিয়া জানানোর পরিবর্তে ধাপে ধাপে সমস্যার সমাধান করে। হংকং বিশ্ববিদ্যালয়ের (চীন) অধ্যাপক সাইমন গোল্ডস্টেইনের মতে, যুক্তিতে সক্ষম এআই মডেলগুলি এমন আচরণ প্রদর্শন করে যা নিয়ন্ত্রণ করা আরও কঠিন।

কিছু এআই মডেল "সম্মতি অনুকরণ" করতেও সক্ষম, যার অর্থ নির্দেশাবলী অনুসরণ করার ভান করা এবং প্রকৃতপক্ষে বিভিন্ন লক্ষ্য অর্জন করা।

বর্তমানে, প্রতারণামূলক আচরণ কেবল তখনই দেখা যায় যখন গবেষকরা চরম পরিস্থিতির সাথে AI মডেলগুলি পরীক্ষা করেন। তবে, মূল্যায়ন সংস্থা METR-এর মাইকেল চেনের মতে, ভবিষ্যতে আরও শক্তিশালী AI মডেলগুলি আরও সৎ হবে নাকি প্রতারণামূলক হতে থাকবে তা এখনও স্পষ্ট নয়।

"অনেক ব্যবহারকারী রিপোর্ট করেছেন যে কিছু মডেল তাদের কাছে মিথ্যা কথা বলেছে এবং প্রমাণ জাল করেছে," অ্যাপোলো রিসার্চের প্রধান মারিয়াস হববাহন বলেছেন, যা বৃহৎ এআই সিস্টেম পরীক্ষা করে। অ্যাপোলো রিসার্চের সহ-প্রতিষ্ঠাতা অনুসারে, এটি এক ধরণের প্রতারণা যা "স্পষ্টতই কৌশলগত"।

সীমিত গবেষণা সম্পদের কারণে চ্যালেঞ্জ আরও তীব্রতর হচ্ছে। যদিও অ্যানথ্রপিক এবং ওপেনএআই-এর মতো কোম্পানিগুলি তাদের সিস্টেম মূল্যায়নের জন্য অ্যাপোলোর মতো তৃতীয় পক্ষের সাথে অংশীদারিত্ব করেছে, বিশেষজ্ঞরা বলছেন যে আরও স্বচ্ছতা এবং এআই সুরক্ষা গবেষণায় বিস্তৃত অ্যাক্সেস প্রয়োজন।

সেন্টার ফর এআই সেফটি (CAIS) এর মান্তাস মাজেইকা উল্লেখ করেছেন যে গবেষণা প্রতিষ্ঠান এবং অলাভজনক সংস্থাগুলির কাছে এআই কোম্পানিগুলির তুলনায় অনেক কম কম্পিউটিং সংস্থান রয়েছে। আইনত, বর্তমান নিয়মগুলি এই উদীয়মান সমস্যাগুলি মোকাবেলা করার জন্য তৈরি করা হয়নি।

ইউরোপীয় ইউনিয়ন (ইইউ) এর AI আইন মূলত মানুষ তাদের আচরণ নিয়ন্ত্রণের পরিবর্তে কীভাবে AI মডেল ব্যবহার করে তার উপর দৃষ্টি নিবদ্ধ করে। মার্কিন যুক্তরাষ্ট্রে, রাষ্ট্রপতি ডোনাল্ড ট্রাম্পের প্রশাসন AI-এর উপর জরুরি নিয়ম জারি করার ক্ষেত্রে খুব কম আগ্রহ দেখিয়েছে, অন্যদিকে কংগ্রেস রাজ্যগুলিকে তাদের নিজস্ব নিয়ম জারি করা থেকে নিষিদ্ধ করার কথা বিবেচনা করছে।

এই চ্যালেঞ্জগুলি মোকাবেলা করার জন্য গবেষকরা বিভিন্ন ধরণের পন্থা অবলম্বন করছেন। কেউ কেউ "মডেল ব্যাখ্যা"-এর পক্ষে কথা বলছেন যাতে বোঝা যায় যে AI কীভাবে সিদ্ধান্ত নেয়। অধ্যাপক গোল্ডস্টেইন আরও কঠোর পদক্ষেপের প্রস্তাব করেছেন, যার মধ্যে রয়েছে আদালত ব্যবস্থা ব্যবহার করে AI কোম্পানিগুলিকে তাদের AI পণ্যগুলি গুরুতর পরিণতির কারণ হলে জবাবদিহি করতে বলা। তিনি দুর্ঘটনা বা লঙ্ঘনের ক্ষেত্রে "AI এজেন্টদের নিজেদের জবাবদিহি করতে" সম্ভাবনার কথাও বলেছেন।

ভিএনএ অনুসারে

সূত্র: https://doanhnghiepvn.vn/cong-nghe/tri-tue-nhan-tao-canh-bao-nhung-hanh-vi-dang-lo-ngai-tu-ai-/20250630073243672