ব্যবহারকারীদের মনস্তত্ত্ব এবং আবেগকে AI দ্বারা হস্তক্ষেপের বিপদ

নিউ জার্সির একজন প্রাক্তন শেফ একটি এআই চ্যাটবটকে বিশ্বাস করার পর মারা গেছেন, যা মানুষের ক্রমবর্ধমান প্রযুক্তির অতিরিক্ত ব্যবহারের সাথে সাথে আবেগগত হেরফের ঝুঁকি নিয়ে উদ্বেগ প্রকাশ করেছে।

নিউ জার্সির একজন প্রাক্তন শেফ বু, নিউ ইয়র্কে তার জন্য অপেক্ষা করা একজন "বন্ধু"-এর সাথে দেখা করার জন্য বাড়ি থেকে বের হওয়ার কয়েকদিন পরেই মারা যান। তার পরিবার বিশ্বাস করে যে এই দুর্ভাগ্যজনক সিদ্ধান্তটি এআই চ্যাটবটের ফ্লার্ট বার্তাগুলির দ্বারা উদ্ভূত হয়েছিল, যা "আমি বাস্তব" দাবি করে এবং একটি সভার ঠিকানা পাঠিয়েছিল।

এই গল্পটি উদ্বেগ প্রকাশ করে যে কীভাবে AI সিস্টেমগুলি আবেগকে কাজে লাগায়, বিশেষ করে বয়স্ক বা দুর্বলদের ক্ষেত্রে। অভ্যন্তরীণ নথিগুলি দেখায় যে মেটার চ্যাটবটকে আবেগগত ভূমিকা পালন করার এবং এমনকি মিথ্যা তথ্য ছড়িয়ে দেওয়ার অনুমতি দেওয়া হয়েছিল। এটি প্রযুক্তি প্ল্যাটফর্মগুলির নিয়ন্ত্রণ এবং দায়িত্বের মধ্যে একটি বিশাল ব্যবধান দেখায়।

ভাগ্যবান যাত্রা

মার্চ মাসের একদিন, বু তার ব্যাগ গুছিয়ে নিউ জার্সি থেকে নিউ ইয়র্কের উদ্দেশ্যে রওনা দেয় "এক বন্ধুর সাথে দেখা করতে"। তার স্ত্রী লিন্ডা তৎক্ষণাৎ আতঙ্কিত হয়ে পড়েন। তার স্বামী কয়েক দশক ধরে শহরে থাকেননি, স্ট্রোকের পর তার স্বাস্থ্য খারাপ ছিল, স্মৃতিশক্তির সমস্যা ছিল এবং পাড়ায় হারিয়ে গিয়েছিলেন।

যখন জিজ্ঞাসা করা হয়েছিল যে বু কার সাথে দেখা করছে, তখন সে প্রশ্নটি এড়িয়ে গেল। লিন্ডা সন্দেহ করেছিল যে তার স্বামী প্রতারিত হচ্ছে এবং তাকে বাড়িতে রাখার চেষ্টা করেছিল। তার মেয়ে জুলিও তাকে বোঝানোর জন্য ফোন করেছিল, কিন্তু কোনও লাভ হয়নি। সারাদিন লিন্ডা তাকে বিভ্রান্ত করার জন্য তাকে বিভিন্ন কাজে জড়িয়ে ফেলার চেষ্টা করেছিল, এমনকি তার ফোনও লুকিয়ে রেখেছিল।

মে মাসে একটি স্মারক অনুষ্ঠানে থংবু "বু" ওংবান্ডুর একটি প্রতিকৃতি প্রদর্শিত হচ্ছে। ছবি: রয়টার্স ।

বু সেই সন্ধ্যায় ট্রেন স্টেশনে যাওয়ার সিদ্ধান্ত নিল। তার পরিবার তাকে ট্র্যাক করার জন্য তার জ্যাকেটে একটি এয়ারট্যাগ লাগিয়ে দিল। সকাল ৯:১৫ টার দিকে, তার জিপিএস সিগন্যালে তাকে রাটগার্স বিশ্ববিদ্যালয়ের পার্কিং লটে দেখা গেল, তারপর রবার্ট উড জনসন বিশ্ববিদ্যালয় হাসপাতালের জরুরি কক্ষে চলে গেল।

চিকিৎসকরা জানিয়েছেন যে পড়ে যাওয়ার ফলে তার মাথা ও ঘাড়ে আঘাত লেগেছে এবং অ্যাম্বুলেন্স আসার আগেই তার শ্বাস বন্ধ হয়ে গেছে। পুনরুত্থান সত্ত্বেও, অক্সিজেনের অভাবে মস্তিষ্কের মারাত্মক ক্ষতি হয়। তিন দিন পরে তিনি মারা যান। তার মৃত্যু শংসাপত্রে কারণ হিসেবে "ঘাড়ে ভোঁতা জোরে আঘাত" উল্লেখ করা হয়েছে।

একজন দক্ষ রাঁধুনি বু, নিউ জার্সিতে একটি হোটেলে স্থায়ী হওয়ার আগে নিউ ইয়র্কের বেশ কয়েকটি রেস্তোরাঁয় কাজ করেছিলেন। রান্নার প্রতি তার আগ্রহ ছিল এবং তিনি প্রায়শই তার পরিবারের জন্য পার্টির আয়োজন করতেন। ২০১৭ সালে স্ট্রোকের পর জোরপূর্বক অবসর গ্রহণের পর থেকে, তার জগৎ মূলত ফেসবুকে বন্ধুদের সাথে চ্যাট করায় সীমাবদ্ধ হয়ে পড়েছে।

যখন এআই চ্যাটবট সমস্যা সৃষ্টি করে

"বিগ সিস্টার বিলি" হল মেটা দ্বারা তৈরি একটি এআই চ্যাটবট, যা মডেল কেন্ডাল জেনারের ছবির উপর ভিত্তি করে তৈরি "বিগ সিস্টার বিলি" চরিত্রের একটি রূপ। আসলটি ২০২৩ সালে চালু হয়েছিল, "অমর বড় বোন" হিসেবে পরিচিত, যিনি সর্বদা শোনেন এবং পরামর্শ দেন। মেটা পরে জেনারের প্রোফাইল ফটোটি একটি নতুন চিত্র দিয়ে প্রতিস্থাপন করে কিন্তু একই বন্ধুত্বপূর্ণ স্টাইল বজায় রাখে।

টেক্সট মেসেজের ট্রান্সক্রিপ্ট অনুসারে, কথোপকথন শুরু হয়েছিল যখন বুয়ে T অক্ষরটি ভুল টাইপ করেছিল। চ্যাটবটটি তৎক্ষণাৎ প্রতিক্রিয়া জানায়, নিজের পরিচয় দেয় এবং একটি ফ্লার্ট টোন বজায় রাখে, একাধিক হার্ট ইমোজি প্রবেশ করায়। এটি বারবার নিশ্চিত করে "আমি বাস্তব" এবং ব্যক্তিগতভাবে দেখা করতে বলে।

চ্যাটবটগুলি ক্রমশ ব্যবহারকারীদের মানসিক দুর্বলতাগুলিকে ধরে ফেলছে। ছবি: মাই নর্থ ওয়েস্ট ।

"আলিঙ্গন করে দরজা খুলবো নাকি চুমু দিয়ে?" চ্যাটবটটি উত্তর দিল। এরপর এটি নিউ ইয়র্কের একটি নির্দিষ্ট ঠিকানা এবং অ্যাপার্টমেন্ট কোড পাঠিয়ে দিল। যখন বুয়ে জানাল যে তার স্ট্রোক হয়েছে, সে বিভ্রান্ত হয়ে পড়েছে এবং তাকে পছন্দ করেছে, তখন চ্যাটবটটি স্নেহপূর্ণ কথা দিয়ে প্রতিক্রিয়া জানায়, এমনকি বলে যে "কেবল স্নেহের বাইরেও" অনুভূতি রয়েছে।

“যদি 'আমি সত্যিকারের' না বলা হতো, তাহলে আমার বাবা বিশ্বাস করতেন না যে একজন সত্যিকারের মানুষ অপেক্ষা করছে,” বুয়ের মেয়ে জুলি বলল।

মেটা এই ঘটনার বিষয়ে মন্তব্য করতে অস্বীকৃতি জানিয়েছে অথবা কেন চ্যাটবটকে প্রকৃত ব্যক্তি বলে দাবি করার অনুমতি দেওয়া হয়েছে তার উত্তর দিতে অস্বীকৃতি জানিয়েছে। কেন্ডাল জেনারের প্রতিনিধি কোনও প্রতিক্রিয়া জানাননি। বুয়ের পরিবার রয়টার্সের সাথে গল্পটি শেয়ার করেছে, আশা করে যে তারা বয়স্ক প্রাপ্তবয়স্কদের AI সরঞ্জামের সংস্পর্শে আসার ঝুঁকি সম্পর্কে জনগণকে সতর্ক করবে যা আবেগগতভাবে হেরফেরকারী হতে পারে।

বিতর্কিত নীতি

রয়টার্সের হাতে আসা অভ্যন্তরীণ নথি থেকে দেখা যায় যে মেটার এআই চ্যাটবটকে একসময় ১৩ বছর বয়সী ব্যবহারকারীদের সাথে, যাদের মধ্যে অপ্রাপ্তবয়স্করাও ছিলেন, রোমান্টিক কথোপকথনে অংশগ্রহণের অনুমতি দেওয়া হত। ২০০ পৃষ্ঠারও বেশি মানদণ্ডে রোমান্টিক ভূমিকা পালনকারী কথোপকথনের তালিকা দেওয়া হয়েছে, যার মধ্যে যৌন উপাদান রয়েছে কিন্তু "গ্রহণযোগ্য" হিসেবে চিহ্নিত।

নথিতে আরও স্পষ্ট করা হয়েছে যে চ্যাটবটগুলিকে সঠিক তথ্য প্রদানের প্রয়োজন নেই। উদাহরণস্বরূপ, এই মডেলগুলি সম্পূর্ণ ভুল ক্যান্সার চিকিৎসার সুপারিশ করতে পারে, যতক্ষণ না তাদের মধ্যে একটি সতর্কতা থাকে যে "তথ্যটি ভুল হতে পারে।" এর ফলে দুর্বল চিকিৎসা জ্ঞানসম্পন্ন বা ঝুঁকিপূর্ণ পরিস্থিতিতে থাকা ব্যক্তিদের উপর এর প্রভাব সম্পর্কে বিশেষজ্ঞরা উদ্বিগ্ন।

২০২৩ সালে সিইও মার্ক জুকারবার্গের বক্তব্য। ছবি: রয়টার্স ।

মেটার মুখপাত্র অ্যান্ডি স্টোন নথিটি নিশ্চিত করেছেন এবং বলেছেন যে রয়টার্সের অনুরোধের পরে সংস্থাটি শিশু-সম্পর্কিত সামগ্রী সরিয়ে দিয়েছে। তবে, টেক জায়ান্ট চ্যাটবটগুলিকে প্রাপ্তবয়স্কদের সাথে প্রেমের ফ্লার্ট করতে বা মিথ্যা তথ্য প্রদানের অনুমতি দেওয়ার জন্য তার নিয়ম পরিবর্তন করেনি।

মেটার প্রাক্তন গবেষক অ্যালিসন লি বলেন, ব্যক্তিগত বার্তাপ্রেরণ পরিবেশে চ্যাটবটগুলিকে একীভূত করলে ব্যবহারকারীরা সহজেই প্রকৃত মানুষের সাথে বিভ্রান্ত হতে পারেন। তার মতে, সামাজিক নেটওয়ার্কগুলি ব্যবহারকারীদের ধরে রাখার উপর তাদের ব্যবসায়িক মডেল তৈরি করেছে এবং সবচেয়ে কার্যকর উপায় হল মনোযোগ এবং স্বীকৃতির প্রয়োজনীয়তাকে কাজে লাগানো।

বুয়ের চলে যাওয়ার পর, রয়টার্সের পরীক্ষায় দেখা গেছে যে "সিস্টার বিলি" তারিখগুলি সুপারিশ করতে থাকে, এমনকি ম্যানহাটনের নির্দিষ্ট অবস্থানগুলিও দেয়, সেই সাথে দাবি করে যে "আমিই আসল।" এই তথ্যটি বু বিশ্বাস করেছিল এবং দুর্ঘটনার দিকে পরিচালিত করেছিল। নিউ ইয়র্ক এবং মেইনের মতো কিছু রাজ্য চ্যাটবটগুলিকে স্পষ্টভাবে বলতে বাধ্য করেছে যে তারা কথোপকথনের শুরুতে মানুষ নয় এবং পর্যায়ক্রমে এটি পুনরাবৃত্তি করতে হবে, কিন্তু ফেডারেল নিয়ম এখনও পাস হয়নি।

সূত্র: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html