AI এর সাথে সম্পর্কিত ঝুঁকি মূল্যায়নের জন্য একটি ব্যবস্থার প্রয়োজন

২৭ নভেম্বর বিকেলে, জাতীয় পরিষদের ভাইস চেয়ারম্যান লে মিন হোয়ানের নির্দেশে, জাতীয় পরিষদের ডেপুটিরা হলরুমে কৃত্রিম বুদ্ধিমত্তা সংক্রান্ত খসড়া আইন নিয়ে আলোচনা করেন।

কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত পণ্যের লেবেলিং

২৭ নভেম্বর বিকেলে জাতীয় পরিষদের দৃশ্য। ছবি: কোয়াং পিএইচইউসি

আজকের জীবনে AI-এর ঝুঁকি নিয়ন্ত্রণ ব্যবস্থার উপর জোর দিয়ে, ডেপুটি নুয়েন ট্যাম হাং (HCMC) তার মতামত ব্যক্ত করেন যে সরবরাহকারীদের AI কন্টেন্টের জন্য মেশিন-পঠনযোগ্য চিহ্নিতকরণ নিশ্চিত করার জন্য খসড়া আইনটি অত্যন্ত প্রয়োজনীয়; তবে, তিনি সাধারণ ব্যবহারকারীদের, বিশেষ করে শিশু এবং বয়স্কদের, ভুল তথ্য এবং গভীর জাল থেকে রক্ষা করার জন্য, যখন বিষয়বস্তু বিভ্রান্তির ঝুঁকিতে থাকে তখন ইন্টারেক্টিভ ইন্টারফেসে সনাক্তকরণ তথ্য প্রদর্শনের জন্য একটি বাধ্যতামূলক প্রয়োজনীয়তা যুক্ত করার কথা বিবেচনা করার পরামর্শ দেন। এই নিয়ন্ত্রণ প্রযুক্তি সরবরাহকারীদের সামাজিক দায়িত্ব বৃদ্ধি করে এবং মানুষের জন্য ডিজিটাল আস্থা তৈরি করে।

এর পাশাপাশি, ডেপুটি নগুয়েন ট্যাম হাং বলেন যে গবেষণার মাধ্যমে তিনি দেখেছেন যে বর্তমান বহুমুখী এআই মডেল কেবল টেক্সট বা ছবি তৈরি করে না, বরং সোর্স কোড, আক্রমণের সরঞ্জাম, কার্যকর করার নির্দেশাবলী, সাইবার আক্রমণ প্রক্রিয়া, আর্থিক জালিয়াতির পদ্ধতি ইত্যাদিও তৈরি করতে পারে। সেখান থেকে, ডেপুটি সোর্স কোড তৈরির অনুমতি দেওয়ার সময় মডেলের "স্ব-উৎপাদন ক্ষমতা" নিয়ন্ত্রণ করার বাধ্যবাধকতা যুক্ত করার প্রস্তাব করেন এবং নেটওয়ার্ক সুরক্ষা এবং সামাজিক শৃঙ্খলা এবং সুরক্ষা নিশ্চিত করার জন্য আউটপুটকে সতর্ক, ব্লক এবং সীমিত করার জন্য একটি ব্যবস্থা থাকা প্রয়োজন।

প্রতিনিধি Nguyen Tam Hung (HCMC)। ছবি: কোয়াং পিএইচইউসি

এআই দ্বারা সৃষ্ট ঝুঁকির দিকেও নজর রেখে, ডেপুটি ফাম ভ্যান হোয়া ( ডং থাপ ) বলেন যে যদিও এআই প্রযুক্তি মানুষের সহায়তার একটি হাতিয়ার, এটি অনেক উচ্চ ঝুঁকি নিয়ে আসে; ডেপুটি খসড়া কমিটিকে এই বিষয়টির একটি বস্তুনিষ্ঠ এবং সঠিক মূল্যায়ন করার অনুরোধ করেছেন।

"ঝুঁকিগুলি মানব জীবন, সম্পত্তি, অধিকার এবং সংস্থা এবং ব্যক্তিদের বৈধ স্বার্থকে প্রভাবিত করতে পারে," ডেপুটি ফাম ভ্যান হোয়া বলেন, তিনি আরও বলেন যে AI-নির্মিত পণ্যগুলির জন্য লেবেল থাকা উচিত। তাঁর মতে, AI-এর লেবেল লাগানোর অর্থ হল মানুষকে জানানো যে কোন পণ্যগুলি AI দ্বারা তৈরি এবং কোনগুলি নয়।

প্রতিনিধি ফাম ভ্যান হোয়া (ডং থাপ)। ছবি: কোয়াং পিএইচইউসি

এদিকে, ডেপুটি ট্রিনহ থি তু আনহ ( লাম ডং ) বলেছেন যে খসড়া আইনের ১১ অনুচ্ছেদ প্রযুক্তিগত প্রভাবের উপর ভিত্তি করে ঝুঁকি মূল্যায়নের চিন্তাভাবনাকে সম্পূর্ণরূপে প্রতিফলিত করে না। তার মতে, বর্তমান প্রেক্ষাপটে, AI এমন ক্ষতিকারক পদ্ধতি তৈরি করতে পারে যা কখনও চিহ্নিত করা হয়নি। অতএব, ডেপুটি ট্রিনহ থি তু আনহ একটি বিধান যুক্ত করার প্রস্তাব করেছেন: "সরকার ঝুঁকি মূল্যায়ন, প্রযুক্তির প্রবণতা এবং ব্যবহারিক ব্যবস্থাপনার প্রয়োজনীয়তার উপর ভিত্তি করে অগ্রহণযোগ্য ঝুঁকি সহ কৃত্রিম বুদ্ধিমত্তা ব্যবস্থার তালিকা বিস্তারিতভাবে উল্লেখ করবে এবং পর্যায়ক্রমে আপডেট এবং পরিপূরক করবে। তার মতে, এই প্রক্রিয়াটি নিশ্চিত করে যে আইনটি পুরানো না হয়ে যায় এবং নতুন ঝুঁকির দ্রুত প্রতিক্রিয়া জানাতে পারে।"

এআই অপব্যবহার এড়ানো

ডেপুটি ট্রান খান থু (হুং ইয়েন) চিকিৎসা পরীক্ষা এবং চিকিৎসার সমর্থনে AI-এর বিষয়টি উত্থাপন করে বলেন যে AI কেবল চিকিৎসা শিল্পে প্রক্রিয়াগুলিকে সর্বোত্তম করতে সাহায্য করে না, ডাক্তার এবং চিকিৎসা পেশাদারদের কাজের চাপ কমায়, বরং চিকিৎসাকে ব্যক্তিগতকৃত করার ক্ষেত্রেও গুরুত্বপূর্ণ ভূমিকা পালন করে, যার ফলে স্বাস্থ্যসেবার ফলাফল উন্নত হয় এবং সম্পদ ব্যবহারের দক্ষতা বৃদ্ধি পায়। তবে, স্বাস্থ্য লক্ষণ সনাক্তকরণে AI প্রয়োগ কখনও কখনও বিপরীতমুখী হয়।

প্রতিনিধি ত্রান খান থু (হং ইয়েন)। ছবি: কোয়াং পিএইচইউসি

মহিলা প্রতিনিধি হো চি মিন সিটির ৫৫ বছর বয়সী এক রোগীর বাস্তব জীবনের উদাহরণ তুলে ধরেন, যিনি হাসপাতালে আনার সময় অলস অবস্থায় ছিলেন। এর আগে, রোগীর পরিবার রোগ নির্ণয়ের জন্য AI ব্যবহার করত, তারপর রোগীর ব্যবহারের জন্য ওষুধ কিনতে যেত। ওষুধ ব্যবহারের পর, রোগীর অবস্থা আরও খারাপ হয়ে যায়, তারপর যখন তাকে হাসপাতালে নিয়ে যাওয়া হয়, তখন তার মস্তিষ্কের ক্ষতি, স্ট্রোক এবং অনিবার্য পরিণতি ধরা পড়ে।

"অবশ্যই, মানুষের ওষুধ নির্ণয় বা প্রেসক্রিপশনের জন্য অনুসন্ধান ফলাফল ব্যবহার করা উচিত নয়। তবে, যারা AI প্রেসক্রিপশন অনুসারে ওষুধ বিক্রি করেন তারা কি আইন লঙ্ঘন করছেন?", ডেপুটি ট্রান খান থু বিস্মিত হয়েছিলেন এবং আশা করেছিলেন যে কৃত্রিম বুদ্ধিমত্তা সংক্রান্ত এই খসড়া আইনে, স্বাস্থ্যসেবা খাতে কৃত্রিম বুদ্ধিমত্তা পণ্য পরিচালনার জন্য আরও সুনির্দিষ্ট আইনি কাঠামোর বিধান থাকবে, বিশেষ করে সংশ্লিষ্ট পক্ষের দায়িত্ব সম্পর্কে।

খসড়া আইনে নিরীক্ষা-পরবর্তী থেকে প্রাক-নিরীক্ষায় স্থানান্তরের বিষয়ে, ডেপুটি ট্রান খান থু পরামর্শ দিয়েছেন যে একটি স্পষ্ট পরিমাণগত সীমা থাকা উচিত, উদাহরণস্বরূপ, যখন মডেলটি তার অ্যালগরিদম পরিবর্তন করে, ব্যবহারকারীর আকার বৃদ্ধি করে, অথবা প্রশিক্ষণের তথ্য একটি নির্দিষ্ট সীমা অতিক্রম করে।

প্রতিনিধি ফাম ট্রং এনঘিয়া (ল্যাং সন)। ছবি: কোয়াং পিএইচইউসি

"কৃত্রিম বুদ্ধিমত্তার অপব্যবহার" সম্পর্কে আরও আলোচনা করে, ডেপুটি ফাম ট্রং এনঘিয়া (ল্যাং সন) বলেন যে আমরা যদি আমাদের জীবনে কৃত্রিম বুদ্ধিমত্তার উপর খুব বেশি নির্ভর করি, তাহলে তা আমাদের চিন্তাভাবনা এবং সৃজনশীলতা হ্রাস করবে। কৃত্রিম বুদ্ধিমত্তার অপব্যবহারের অনেক সম্ভাব্য অস্থিরতা রয়েছে যেমন: জাতীয় সার্বভৌমত্ব লঙ্ঘন, জনপ্রশাসনের কার্যকারিতা হ্রাস এবং প্রতিটি ব্যক্তি এবং প্রতিটি পরিবার, বিশেষ করে তরুণ প্রজন্মের উপর নেতিবাচক প্রভাব ফেলবে।

"সরকারি খাতে, AI অপব্যবহার নীতি ও আইনের সম্ভাব্যতা, মানবতা এবং কার্যকারিতা হ্রাস করে। AI-কে সংবেদনশীল তথ্য এবং ডেটা সরবরাহ করা, যদি কঠোরভাবে নিয়ন্ত্রণ না করা হয়, তাহলে ডেটা ফাঁস হতে পারে, জাতীয় নিরাপত্তা, সামাজিক শৃঙ্খলা এবং নিরাপত্তার ক্ষতি করতে পারে এবং অপ্রত্যাশিত পরিণতি হতে পারে," বলেছেন ডেপুটি ফাম ট্রং এনঘিয়া, যিনি খসড়া আইনে একটি বিধান যুক্ত করার প্রস্তাব করেছিলেন যাতে নিষিদ্ধ কাজগুলি নির্ধারণ করা হয়, যার মধ্যে রয়েছে সরকারি খাতে AI অপব্যবহার নিষিদ্ধ করা।

সত্য করো

সূত্র: https://www.sggp.org.vn/can-co-che-danh-gia-rui-ro-lien-quan-toi-ai-post825783.html