গায়িকার ডিপফেক অশ্লীল ছবি ভাইরাল হওয়ার পর সোশ্যাল নেটওয়ার্ক এক্সকে টেলর সুইফটের জন্য অনুসন্ধান বন্ধ করতে হয়েছে। এক্স প্ল্যাটফর্মে টেলর সুইফটের জন্য অনুসন্ধান করলে ব্যবহারকারীরা একটি ত্রুটি বার্তা দেখতে পাবেন এবং পৃষ্ঠাটি পুনরায় লোড করার অনুরোধ করবেন। এক্স-এর ব্যবসায়িক অপারেশনস পরিচালক জো বেনারক বলেছেন যে এটি একটি প্রাথমিক পদক্ষেপ এবং সতর্কতার সাথে করা হচ্ছে।

অনুসরণ
এআই-এর তৈরি টেলর সুইফটের নগ্ন ছবিগুলি সরানোর আগে এক্স এবং ফেসবুকে ছড়িয়ে পড়ে। (ছবি: রয়টার্স)

২৪শে জানুয়ারী টেলর সুইফটের কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি পর্নোগ্রাফিক ছবি X-এ প্রচারিত হতে শুরু করে, যার ফলে গায়কের ভক্তরা ডিপফেকটিকে "ডুবিয়ে" দেওয়ার জন্য তারকার আসল ছবিগুলির একটি সিরিজ পোস্ট করে। তারা X-কে এই ছবিগুলি মুছে ফেলার জন্য এবং ভুয়া ছবি শেয়ার করা অ্যাকাউন্টগুলির প্রতিবেদন করার জন্য আরও কঠোর পদক্ষেপ নেওয়ারও অনুরোধ করে। "টেলর সুইফটকে রক্ষা করুন" স্লোগানটিও প্ল্যাটফর্মে একটি শীর্ষ ট্রেন্ড হয়ে ওঠে।

একদিন পরে, রিপোর্ট করা অ্যাকাউন্টগুলি স্থগিত বা সীমাবদ্ধ করা হয়েছিল, কিন্তু X-এ AI পর্ন খুঁজে পাওয়া এখনও সহজ ছিল।

সপ্তাহান্তে এক বিবৃতিতে, X জানিয়েছে যে এটি বিষয়বস্তুর অনুমতি ছাড়া গ্রাফিক ছবি শেয়ার করা নিষিদ্ধ করে এবং এই ধরনের বিষয়বস্তুর জন্য শূন্য-সহনশীলতা নীতি অনুসরণ করে। বিবৃতিতে সুইফটের নাম উল্লেখ করা হয়নি।

"আমাদের দল সক্রিয়ভাবে চিহ্নিত সমস্ত ছবি সরিয়ে ফেলছে এবং পোস্ট করা অ্যাকাউন্টগুলির বিরুদ্ধে যথাযথ ব্যবস্থা নিচ্ছে। আমরা পরিস্থিতি নিবিড়ভাবে পর্যবেক্ষণ করব যাতে আরও কোনও লঙ্ঘনের তাৎক্ষণিক সমাধান করা যায় এবং বিষয়বস্তু অপসারণ করা হয়," এক্স বলেন।

জেনারেটিভ এআই-এর অগ্রগতির ফলে অন্যদের পর্নোগ্রাফিক ছবি জাল করা সহজ হয়েছে। ২০২২ সালে এলন মাস্কের নিয়ন্ত্রণে আসার পর, X-এর মাধ্যমে অনেক সেন্সরশিপ নিয়ম শিথিল করা হয়েছে, অন্যদিকে তিনি তার আর্থিক স্থিতিশীলতার জন্য হাজার হাজার কর্মচারীকে ছাঁটাই করেছেন।

এনবিসি নিউজের মতে, টেলর সুইফটের ডিপফেক ছবিগুলি কোথা থেকে এসেছে তা স্পষ্ট নয়, তবে সেগুলিকে ওয়াটারমার্ক করা হয়েছিল যাতে বোঝা যায় যে সেলিব্রিটিদের ভুয়া পর্নোগ্রাফিক ছবি বিতরণের জন্য পরিচিত একটি ওয়েবসাইট থেকে এগুলি এসেছে। ওয়েবসাইটটিতে এআই ডিপফেকগুলির জন্য নিবেদিত একটি বিভাগও রয়েছে। পোস্ট হওয়ার ১৯ ঘন্টা পরে সুইফটের ভুয়া ছবিগুলি ২৭ মিলিয়নেরও বেশি বার দেখা হয়েছে এবং ২৬০,০০০ বারেরও বেশি লাইক করা হয়েছে।

এই ঘটনার পর, মাইক্রোসফটের সিইও সত্য নাদেলা এআই নিয়ন্ত্রণের জন্য আরও রেলিং স্থাপনের আহ্বান জানান। এনবিসি নিউজের সাথে এক সাক্ষাৎকারে, তিনি যুক্তি দেন যে এই উদীয়মান প্রযুক্তি পর্যবেক্ষণ করার দায়িত্ব আমাদের রয়েছে যাতে আরও নিরাপদ সামগ্রী তৈরি করা যায়।

সুইফটের ডিপফেক সম্পর্কে এক প্রশ্নের জবাবে মাইক্রোসফট প্রধান বলেন: "হ্যাঁ, আমাদের পদক্ষেপ নিতে হবে। আমি মনে করি আমরা সকলেই একটি নিরাপদ অনলাইন জগৎ থেকে উপকৃত হই। আমার মনে হয় না কেউ এমন একটি অনলাইন জগৎ চায় যা কন্টেন্ট নির্মাতা এবং কন্টেন্ট গ্রাহক উভয়ের জন্যই সম্পূর্ণ অনিরাপদ। তাই আমি মনে করি আমাদের এই বিষয়ে দ্রুত পদক্ষেপ নেওয়া উচিত।"

৪০৪ মিডিয়ার মতে, একটি টেলিগ্রাম চ্যাট গ্রুপ জানিয়েছে যে তারা টেলরের ছবি জাল করার জন্য মাইক্রোসফ্টের এআই-জেনারেটেড ডিজাইনার টুল ব্যবহার করেছে। মিঃ নাদেলা ৪০৪ মিডিয়ার তথ্যের উপর সরাসরি মন্তব্য করেননি, তবে সংবাদ সাইটে পাঠানো এক বিবৃতিতে মাইক্রোসফ্ট জানিয়েছে যে তারা প্রতিবেদনটি তদন্ত করছে এবং যথাযথ ব্যবস্থা নেবে।

মার্কিন প্রেসিডেন্ট জো বাইডেনের প্রশাসন টেলর সুইফটের পর্নোগ্রাফিক ডিপফেকের বিস্তারকে "উদ্বেগজনক" বলে অভিহিত করেছে এবং সোশ্যাল মিডিয়া কোম্পানিগুলিকে সম্মতি ছাড়াই মিথ্যা তথ্য এবং সংবেদনশীল ছবির বিস্তার রোধে নিয়মকানুন প্রয়োগে তাদের "গুরুত্বপূর্ণ ভূমিকা" পরীক্ষা করার আহ্বান জানিয়েছে।

২০২৩ সালের অক্টোবরে, রাষ্ট্রপতি বাইডেন উদীয়মান প্রযুক্তি এবং এর ঝুঁকি নিয়ন্ত্রণের উপর দৃষ্টি নিবদ্ধ করে AI সংক্রান্ত একটি নির্বাহী আদেশে স্বাক্ষর করেন।

(দ্য হিল, ডব্লিউএসজে অনুসারে)