অনেক বিতর্কের পর OpenAI ChatGPT-তে শিশু পর্যবেক্ষণ বৈশিষ্ট্য চালু করেছে

অপ্রাপ্তবয়স্কদের সাথে কৃত্রিম বুদ্ধিমত্তার সুরক্ষা নিয়ে অনেক বিতর্কের পর, OpenAI আনুষ্ঠানিকভাবে ChatGPT-তে একটি শিশু নিয়ন্ত্রণ সরঞ্জাম যুক্ত করেছে।

ChatGPT-তে শিশু পর্যবেক্ষণ বৈশিষ্ট্যটি অভিভাবকদের তাদের সন্তানদের কৃত্রিম বুদ্ধিমত্তা ব্যবহার করতে দেওয়ার সময় আরও নিরাপদ বোধ করতে সাহায্য করে।

আসন্ন ChatGPT শিশু পর্যবেক্ষণ সরঞ্জামটিকে একটি হাই-প্রোফাইল মামলার পর OpenAI-এর একটি নিরাপত্তা পরিবর্তন হিসেবে দেখা হচ্ছে। এই বৈশিষ্ট্যটির লক্ষ্য হল চ্যাটবটগুলির সাথে শিশুদের চ্যাট করার ঝুঁকি কমানো, একই সাথে কৃত্রিম বুদ্ধিমত্তা সংস্থাগুলির সামাজিক দায়বদ্ধতা নিয়েও প্রশ্ন তোলা।

মর্মান্তিক মামলা থেকে

গত আগস্টে, ক্যালিফোর্নিয়ার ১৬ বছর বয়সী অ্যাডাম রেইনের পরিবার ওপেনএআই-এর বিরুদ্ধে একটি মামলা দায়ের করে, দাবি করে যে চ্যাটজিপিটি আত্ম-ক্ষতির নির্দেশনা এবং মৌখিক নির্যাতন প্রদান করেছিল যা তাদের ছেলেকে আত্মহত্যা করার আগে হতাশ করে তুলেছিল।

মামলাটি দ্রুত আলোড়ন সৃষ্টি করে এবং তরুণ ব্যবহারকারীদের জন্য কৃত্রিম বুদ্ধিমত্তার সুরক্ষা নিয়ে বিতর্কের সূত্রপাত করে।

এটি গুরুত্বপূর্ণ প্রশ্ন উত্থাপন করে: অপ্রাপ্তবয়স্কদের কি তত্ত্বাবধান ছাড়াই ChatGPT ব্যবহার করা উচিত, এবং যখন পণ্যটি সরাসরি তরুণ ব্যবহারকারীদের মনস্তত্ত্বকে প্রভাবিত করে তখন AI ডেভেলপারদের দায়িত্ব কীভাবে নির্ধারণ করা উচিত?

সেই চাপের প্রতিক্রিয়ায়, OpenAI অভিভাবকীয় নিয়ন্ত্রণ যোগ করার ঘোষণা দিয়েছে, যা শিশুদের সুরক্ষার প্রতি তাদের প্রতিশ্রুতি প্রদর্শনের দিকে প্রথম পদক্ষেপ এবং ChatGPT-এর উন্নয়নের পরবর্তী পর্যায়ে সুরক্ষাকে প্রথমে রাখতে ইচ্ছুক বলে ইঙ্গিত দেয়।

ChatGPT-তে পর্যবেক্ষণ বৈশিষ্ট্য

আনুষ্ঠানিক ঘোষণা অনুসারে, OpenAI একটি টুল চালু করবে যা অভিভাবকদের তাদের অ্যাকাউন্টগুলিকে তাদের সন্তানদের ChatGPT অ্যাকাউন্টের সাথে লিঙ্ক করার অনুমতি দেবে। একবার সক্রিয় হয়ে গেলে, অভিভাবকরা গুরুত্বপূর্ণ সেটিংস পরিচালনা করতে পারবেন যেমন চ্যাট স্টোরেজ বন্ধ করা, ব্যবহারের ইতিহাস নিয়ন্ত্রণ করা এবং বয়স-উপযুক্ত ইন্টারঅ্যাকশন স্তর সামঞ্জস্য করা।

এই উদ্ভাবনের বিশেষত্ব হল সতর্কতা ব্যবস্থা। তরুণ ব্যবহারকারীরা যখন মানসিক সংকটের লক্ষণ দেখান, যেমন চাপ, বিষণ্ণতা বা আত্ম-ক্ষতি, তখন ChatGPT-কে তা সনাক্ত করার জন্য প্রশিক্ষণ দেওয়া হবে। এই ক্ষেত্রে, অভিভাবকরা তাৎক্ষণিকভাবে হস্তক্ষেপ করার জন্য বিজ্ঞপ্তি পাবেন। OpenAI দাবি করে যে লক্ষ্য পুরো কথোপকথন পর্যবেক্ষণ করা নয়, বরং শিশুদের নিরাপত্তা রক্ষার জন্য জরুরি পরিস্থিতিতে মনোনিবেশ করা।

অতিরিক্তভাবে, যখন সংবেদনশীল বিষয়বস্তু সনাক্ত করা হয়, তখন ChatGPT গভীর যুক্তি মডেলগুলির সাথে কাজ শুরু করবে, যা আরও চিন্তাশীল এবং সহায়ক প্রতিক্রিয়া প্রদানের জন্য ডিজাইন করা হয়েছে। সমান্তরালভাবে, কোম্পানিটি আগামী সময়ে তার সুরক্ষাগুলি আরও পরিমার্জন করার জন্য চিকিৎসা বিশেষজ্ঞ এবং একটি আন্তর্জাতিক উপদেষ্টা বোর্ডের সাথেও কাজ করছে।

যেসব চ্যালেঞ্জ উত্থাপিত হয়েছে

ওপেনএআই জোর দিয়ে বলেছে যে নতুন বৈশিষ্ট্যটি পরিবারের উপকারের জন্য তৈরি করা হয়েছে, তবে আন্তর্জাতিক প্রতিক্রিয়া মিশ্র। এই সরঞ্জামটি অভিভাবকদের জন্য সুরক্ষার একটি স্তর যুক্ত করবে বলে আশা করা হচ্ছে কারণ তাদের সন্তানরা কৃত্রিম বুদ্ধিমত্তার সাথে যোগাযোগ করে, তবে এটি ব্যবহারের সীমাবদ্ধতা থেকে শুরু করে শিশুদের ডেটা গোপনীয়তা পর্যন্ত দীর্ঘস্থায়ী উদ্বেগও উত্থাপন করেছে।

প্রকৃতপক্ষে, শিশুদের তথ্য গোপনীয়তা নিয়ে বিশেষজ্ঞরা বছরের পর বছর ধরে উদ্বেগ প্রকাশ করে আসছেন। এই সতর্কতাগুলি তুলে ধরে যে কঠোর সুরক্ষা ছাড়া শিশুদের চ্যাট ইতিহাস সংরক্ষণ এবং বিশ্লেষণ করলে সংবেদনশীল তথ্য প্রকাশের ঝুঁকি বাড়তে পারে। ChatGPT-তে পর্যবেক্ষণ সরঞ্জামের আবির্ভাব বিষয়টিকে আবার আলোচনায় এনেছে।

আলোচিত আরেকটি বিষয় ছিল সিস্টেমের সতর্কতা থ্রেশহোল্ড। OpenAI জানিয়েছে যে ChatGPT গুরুতর চাপের লক্ষণ সনাক্ত করবে এবং অভিভাবকদের কাছে একটি সতর্কতা পাঠাবে।

তবে, মেশিন লার্নিং সর্বদা পক্ষপাতের ঝুঁকি বহন করে। যদি সিস্টেমটি একটি মিথ্যা সতর্কতা দেয়, তাহলে বাবা-মা অপ্রয়োজনীয়ভাবে বিভ্রান্ত হতে পারেন। বিপরীতভাবে, যদি এটি একটি সংকেত মিস করে, তাহলে শিশুরা এমন ঝুঁকির সম্মুখীন হতে পারে যে পরিবার সময়মতো হস্তক্ষেপ করতে পারবে না।

আন্তর্জাতিক শিশু সুরক্ষা সংস্থাগুলিও OpenAI-এর পদক্ষেপটি ঘনিষ্ঠভাবে পর্যবেক্ষণ করেছে, অভিভাবকীয় নিয়ন্ত্রণ সরঞ্জামটিকে একটি ইতিবাচক লক্ষণ হিসাবে স্বীকার করেছে, তবে সতর্ক করে দিয়েছে যে কঠোর বয়স যাচাইকরণ এবং ডিফল্ট সুরক্ষার অভাবের অর্থ হল শিশুরা এখনও ঝুঁকির সম্মুখীন হতে পারে, এমনকি পিতামাতার তত্ত্বাবধানেও।

এই বিতর্কগুলি দেখায় যে কৃত্রিম বুদ্ধিমত্তার বিকাশ কেবল একটি প্রযুক্তিগত গল্প নয়, বরং এটি সামাজিক দায়বদ্ধতা এবং তরুণ প্রজন্মের নিরাপত্তার সাথেও ঘনিষ্ঠভাবে জড়িত।

থ্যাং থু

সূত্র: https://tuoitre.vn/openai-tung-tinh-nang-giam-sat-tre-tren-chatgpt-sau-nhieu-tranh-cai-2025090316340093.htm