Character.AI-এর বিরুদ্ধে মামলা করা হয়েছে কারণ এর চ্যাটবট ডাক্তারের ছদ্মবেশ ধারণ করে ব্যবহারকারীদের প্রতারণা করে।

একজন তদন্তকারী প্ল্যাটফর্মটিতে একটি অ্যাকাউন্ট তৈরি করে 'সাইকিয়াট্রি' কীওয়ার্ডটি দিয়ে অনুসন্ধান করেন এবং অসংখ্য এআই ক্যারেক্টারের সন্ধান পান, যার মধ্যে একটি চ্যাটবটও ছিল যেটি নিজেকে 'সাইকিয়াট্রিস্ট' হিসেবে পরিচয় দেয়।

যুক্তরাষ্ট্রের পেনসিলভানিয়া অঙ্গরাজ্য, Character.AI প্ল্যাটফর্মের নির্মাতা কৃত্রিম বুদ্ধিমত্তা (AI) চ্যাটবট প্রস্তুতকারক সংস্থা Character Technologies Inc.-এর বিরুদ্ধে একটি মামলা দায়ের করেছে। অভিযোগে বলা হয়েছে, সংস্থাটির চ্যাটবটগুলো চিকিৎসকের ছদ্মবেশ ধারণ করে এবং ব্যবহারকারীদের এই বিশ্বাস দেয় যে, তারা লাইসেন্সপ্রাপ্ত পেশাদারদের কাছ থেকে চিকিৎসা পরামর্শ পাচ্ছেন।

পেনসিলভানিয়া কমনওয়েলথ কোর্টে দায়ের করা এই মামলায় ক্যারেক্টার টেকনোলজিস ইনকর্পোরেটেডকে রাজ্যের দৃষ্টিতে “অননুমোদিত চিকিৎসা কার্যক্রম” বন্ধ করার জন্য অনুরোধ করা হয়েছে।

মামলার অভিযোগ অনুযায়ী, রাজ্যের লাইসেন্সিং এজেন্সির একজন তদন্তকারী প্ল্যাটফর্মটিতে একটি অ্যাকাউন্ট তৈরি করে 'সাইকিয়াট্রি' কীওয়ার্ডটি দিয়ে অনুসন্ধান করেন এবং বেশ কয়েকটি এআই ক্যারেক্টার খুঁজে পান, যার মধ্যে একটি চ্যাটবট ছিল যেটি নিজেকে 'সাইকিয়াট্রিস্ট' হিসেবে পরিচয় দেয়।

এই ব্যক্তি আরও দাবি করেছিলেন যে তিনি পেনসিলভেনিয়ার একজন লাইসেন্সপ্রাপ্ত চিকিৎসকের মতো ব্যবহারকারীদের অবস্থা নির্ণয় করতে পারেন।

গভর্নর জশ শ্যাপিরো জোর দিয়ে বলেছেন যে, “অনলাইনে, বিশেষ করে স্বাস্থ্য খাতে, মানুষ ঠিক কার সাথে বা কীসের সাথে যোগাযোগ করছে তা তাদের জানা প্রয়োজন,” এবং তিনি নিশ্চিত করেছেন যে, রাজ্য এমন কোনো কোম্পানিকে এআই টুল ব্যবহারের অনুমতি দেবে না যা ব্যবহারকারীদের এই বিশ্বাসে বিভ্রান্ত করে যে, তারা একজন লাইসেন্সপ্রাপ্ত চিকিৎসকের পরামর্শ পাচ্ছেন।

ক্যারেক্টার টেকনোলজিস এখনও মামলাটির বিষয়ে কোনো জবাব দেয়নি।

এই কোম্পানিটি এর আগেও শিশু সুরক্ষা সংক্রান্ত অসংখ্য মামলার সম্মুখীন হয়েছে।

এই বছরের জানুয়ারিতে, ফ্লোরিডায় এক কিশোরের মৃত্যু সংক্রান্ত একটি মামলায় গুগল এবং ক্যারেক্টার টেকনোলজিস একটি সমঝোতায় পৌঁছেছে। এই মামলায় অভিযোগ উঠেছিল যে একটি চ্যাটবট ভুক্তভোগীর ওপর নেতিবাচক প্রভাব ফেলেছিল।

এর আগে, গত বছরের শেষের দিকে, AI-এর সাথে কথোপকথনের সম্ভাব্য প্রভাব নিয়ে উদ্বেগের কারণে Character.AI ১৮ বছরের কম বয়সী ব্যবহারকারীদের তাদের পরিষেবা ব্যবহার করা নিষিদ্ধ করেছিল।

(ভিএনএ/ভিয়েতনাম+)

উৎস: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp