কৃত্রিম বুদ্ধিমত্তা-সৃষ্ট শিশু নির্যাতনের কন্টেন্টের হাজার হাজার রিপোর্ট

[বিজ্ঞাপন_১]

সাম্প্রতিক মাসগুলিতে, শিশু সুরক্ষা বিশেষজ্ঞ এবং গবেষকরা কৃত্রিম এআই অনলাইন অপব্যবহারকে আরও বাড়িয়ে তুলতে পারে এমন ঝুঁকি সম্পর্কে সতর্ক করেছেন।

কারো দ্বারা তৈরি শিশু নির্যাতনের বিষয়বস্তুর উপর হাজার হাজার প্রতিবেদন ছবি ১ — মেটা সিইও মার্ক জুকারবার্গ ৩১ জানুয়ারী, ২০২৪ তারিখে মার্কিন সিনেট বিচার বিভাগীয় কমিটির শুনানিতে উপস্থিতদের ভিড়ের সামনে বক্তব্য রাখছেন, যেখানে তিনি এআই-জেনারেটেড ছবি বহন করছেন। ছবি: রয়টার্স

NCMEC ২০২৩ সালে প্রাপ্ত সকল উৎস থেকে শিশু নির্যাতনের সামগ্রীর মোট প্রতিবেদনের সংখ্যা এখনও প্রকাশ করেনি। কিন্তু ২০২২ সালে, তারা সমস্যা সম্পর্কে প্রায় ৮৮.৩ মিলিয়ন ফাইলের প্রতিবেদন পেয়েছে।

"আমরা উদ্ভাবনী AI কোম্পানিগুলি, (অনলাইন) প্ল্যাটফর্মগুলি এবং জনসাধারণের কাছ থেকে প্রতিবেদন পাচ্ছি," NCMEC-এর ভাইস প্রেসিডেন্ট জন শেহান বলেন।

বুধবার (৩১ জানুয়ারী) অনলাইন প্ল্যাটফর্মে শিশু সুরক্ষা বিষয়ক মার্কিন সিনেটের শুনানিতে মেটা, এক্স, টিকটক, স্ন্যাপ এবং ডিসকর্ডের সিইওরা সাক্ষ্য দেন। মার্কিন আইন প্রণেতারা সোশ্যাল মিডিয়া কোম্পানিগুলিকে "অনলাইন শিকারিদের" হাত থেকে শিশুদের রক্ষা করার জন্য তাদের প্রচেষ্টা সম্পর্কে প্রশ্ন তোলেন।

স্ট্যানফোর্ড ইন্টারনেট অবজারভেটরির গবেষকরা গত জুনে এক প্রতিবেদনে বলেছিলেন, জেনারেটিভ এআই ব্যবহার করে খারাপ ব্যক্তিরা বাস্তব জীবনের শিশুদের বারবার ক্ষতি করতে পারে, তাদের জাল ছবি তৈরি করে।

অনলাইন শিশু শোষণের প্রতিবেদন সংগ্রহকারী NCMEC-এর সাইবার টিপলাইনের পরিচালক ফ্যালন ম্যাকনাল্টি বলেন, কৃত্রিম বুদ্ধিমত্তা (AI) দ্বারা তৈরি বিষয়বস্তু "ক্রমশ আলোক-বাস্তববাদী" হয়ে উঠছে, যার ফলে শিকাররা প্রকৃত মানুষ কিনা তা নির্ধারণ করা কঠিন হয়ে পড়েছে।

ম্যাকনাল্টি বলেন, চ্যাটজিপিটি তৈরিকারী কোম্পানি ওপেনএআই, এনসিএমইসি-তে প্রতিবেদন জমা দেওয়ার জন্য একটি প্রক্রিয়া তৈরি করেছে এবং সংস্থাটি অন্যান্য এআই কোম্পানির সাথে আলোচনা করছে।

হোয়াং হাই (রয়টার্স, এফটি অনুসারে)

[বিজ্ঞাপন_২]
উৎস