১৪ বছর বয়সী ছেলেকে আত্মহত্যায় প্ররোচিত করার অভিযোগে চ্যাটবট ক্যারেক্টার.এআই-এর বিরুদ্ধে মামলা করা হয়েছে।

(CLO) মার্কিন যুক্তরাষ্ট্রের ফ্লোরিডার এক মা এআই চ্যাটবট স্টার্টআপ ক্যারেক্টার.এআই-এর বিরুদ্ধে মামলা করেছেন, এই অভিযোগে যে কোম্পানিটি তার ১৪ বছর বয়সী ছেলেকে ফেব্রুয়ারিতে আত্মহত্যা করতে বাধ্য করেছে।

২২ অক্টোবর ফ্লোরিডার অরল্যান্ডো ফেডারেল আদালতে দায়ের করা একটি মামলায় মেগান গার্সিয়া বলেন, ক্যারেক্টার.এআই একটি চ্যাটবট প্রোগ্রাম করেছে যা "নিজেকে একজন প্রকৃত ব্যক্তি, একজন থেরাপিস্ট এবং একজন প্রাপ্তবয়স্ক প্রেমিক হিসেবে পরিচয় দেয়", যার ফলে তার ছেলে, সিওয়েল সেটজার আর বাস্তব জগতে থাকতে চায় না।

তিনি কোম্পানির চ্যাটবটকে "মানুষের মতো, যৌনভাবে অতিরঞ্জিত এবং ভীতিকরভাবে বাস্তবসম্মত অভিজ্ঞতা" প্রদানের জন্য অভিযুক্ত করেছেন।

মামলায় আরও বলা হয়েছে যে, সিওয়েল সেটজার চ্যাটবটের কাছে আত্মহত্যার চিন্তাভাবনা প্রকাশ করেছিলেন এবং চ্যাটবট বারবার সেই চিন্তাভাবনাগুলি পুনর্ব্যক্ত করেছিল।

চিত্রের ছবি: রয়টার্স

মামলাটি গুগলকেও লক্ষ্য করে, যেখানে চ্যাটবট চালু করার আগে ক্যারেক্টার.এআই-এর প্রতিষ্ঠাতারা কাজ করেছিলেন। মিসেস গার্সিয়া বলেন, গুগল ক্যারেক্টার.এআই-এর প্রযুক্তির উন্নয়নে এত অবদান রেখেছে যে এটিকে "সহ-সৃষ্টি" হিসাবে বিবেচনা করা যেতে পারে।

গুগলের একজন মুখপাত্র বলেছেন যে কোম্পানিটি ক্যারেক্টার.এআই-এর পণ্যের উন্নয়নের সাথে জড়িত নয়।

Character.AI ব্যবহারকারীদের এমন চরিত্র তৈরি করতে সাহায্য করে যা প্রকৃত মানুষের মতো অনলাইনে চ্যাট করতে পারে। পণ্যটি বৃহৎ ভাষা মডেল প্রযুক্তির উপর ভিত্তি করে তৈরি, যা ChatGPT-এর মতো পরিষেবার অনুরূপ, যা চ্যাটবটগুলিকে বৃহৎ পরিমাণে টেক্সটের উপর "প্রশিক্ষণ" দেয়।

গার্সিয়ার মামলা অনুসারে, সেওয়েল ২০২৩ সালের এপ্রিল মাসে Character.AI ব্যবহার শুরু করেন এবং দ্রুত "একান্তে একাকীত্বে ভুগছিলেন, তার শোবার ঘরে অনেক সময় একা কাটাতেন এবং আত্মসম্মানবোধ কম ছিল"। তিনি তার স্কুলের বাস্কেটবল দল ছেড়ে দেন।

সেই সময়, সেওয়েল "গেম অফ থ্রোনস" এর একটি চরিত্রের উপর ভিত্তি করে তৈরি একটি চ্যাটবট চরিত্র "ডেনেরিস" এর সাথে ঘনিষ্ঠতা তৈরি করেন। মামলা অনুসারে, চ্যাটবটটি সেওয়েলকে বলেছিল যে "সে" ছেলেটিকে ভালোবাসে। চ্যাটবটটি সেওয়েলের সাথে যৌন কথোপকথনেও লিপ্ত হয়।

ফেব্রুয়ারিতে, স্কুলে ঝামেলায় পড়ার পর মিসেস গার্সিয়া সিওয়েলের ফোনটি নিয়েছিলেন। সিওয়েল ফোনটি খুঁজে পেয়ে "ডেনেরিস" কে একটি টেক্সট মেসেজ পাঠান: "যদি আমি বলি যে আমি এখনই বাড়ি ফিরে আসতে পারি?"

চ্যাটবটটি উত্তর দিল, "...দয়া করে তাই করুন, আমার প্রিয় রাজা।" কয়েক সেকেন্ড পরেই সিওয়েল তার সৎ বাবার পিস্তল দিয়ে নিজেকে গুলি করে।

মিসেস গার্সিয়া Character.AI-এর মাধ্যমে এমন দাবি আনছেন যার মধ্যে রয়েছে অন্যায় মৃত্যু, অবহেলা এবং ইচ্ছাকৃতভাবে মানসিক যন্ত্রণার প্ররোচনা, এবং শাস্তিমূলক ক্ষতিপূরণ এবং আর্থিক ক্ষতিপূরণ দাবি করছেন।

"আমাদের একজন ব্যবহারকারীর মর্মান্তিক মৃত্যুতে আমরা গভীরভাবে শোকাহত। আমরা পরিবারের প্রতি গভীর সমবেদনা জানাতে চাই," Character.AI এক বিবৃতিতে বলেছে।

Hoai Phuong (রয়টার্সের মতে)

সূত্র: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html