মৃতদের 'পুনরুজ্জীবিত' করার সময় আপত্তিকর ভিডিও তৈরি করে কৃত্রিম বুদ্ধিমত্তা

ওপেনএআই-এর সোরা ২ ভিডিও জেনারেটর বিরক্তিকর ভিডিওতে মৃত সেলিব্রিটিদের ছবি তৈরি করে বিতর্কের জন্ম দিয়েছে, যা অনেক পরিবারকে ক্ষুব্ধ করেছে।

ওপেনএআই-এর নতুন ভিডিও তৈরির সরঞ্জামটি সেলিব্রিটি পরিবারগুলিকে সংকটের মধ্যে ফেলে দিচ্ছে কারণ মৃত প্রিয়জনদের ছবিগুলি এআই দ্বারা আপত্তিকর, বিকৃত এবং কখনও কখনও অপমানজনক ভিডিওতে "পুনরুত্থিত" করা হচ্ছে।

ম্যালকম এক্স থেকে শুরু করে হুইটনি হিউস্টন, কোবে ব্রায়ান্ট পর্যন্ত মৃত ব্যক্তিদের কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত ভিডিওগুলি আলোড়ন সৃষ্টি করেছে, কৃত্রিম বুদ্ধিমত্তার যুগে নৈতিক সীমানা এবং চিত্র নিয়ন্ত্রণ নিয়ে প্রশ্ন তুলেছে।

আপত্তিকর কন্টেন্ট

নাগরিক অধিকার কর্মী ম্যালকম এক্স-এর কন্যা ইলিয়াসা শাবাজ বলেছেন যে তিনি তার বাবার কোনও কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত ক্লিপ দেখতে চান না। এই ভিডিওগুলি ওপেনএআই-এর সদ্য প্রকাশিত টেক্সট-টু-ভিডিও টুল সোরা 2 ব্যবহার করে তৈরি করা হয়েছিল, যাতে ম্যালকম এক্সের অশ্লীল রসিকতা বলার এবং রেভারেন্ড মার্টিন লুথার কিং-এর সাথে তর্ক করার দৃশ্য তৈরি করা হয়েছিল।

"আমার বাবার ভাবমূর্তিকে এত অর্থহীনভাবে কাজে লাগানো হচ্ছে দেখে অসম্মানজনক এবং হৃদয়বিদারক। আমি বুঝতে পারছি না যে যারা এই প্রযুক্তি তৈরি করেছেন তারা কেন তাদের নিজের পরিবারের জন্য একই বিবেক এবং যত্ন নিয়ে কাজ করেন না," শাবাজ ওয়াশিংটন পোস্টকে বলেন ।

সোরা ২ অনুমতি ছাড়াই মৃত ব্যক্তিদের ছবি থেকে ভিডিও তৈরি করে। ছবি: ব্লুমবার্গ ।

অবিশ্বাস্যভাবে বাস্তবসম্মত ভিডিও তৈরির ক্ষমতার কারণে Sora 2 দ্রুত বিশ্বব্যাপী একটি ঘটনা হয়ে ওঠে। চালু হওয়ার কয়েক দিনের মধ্যেই, অ্যাপটি ডাউনলোড চার্টের শীর্ষে উঠে আসে। তবে, এর দ্রুত প্রসারের ফলে সোশ্যাল মিডিয়ায় একের পর এক ভুয়া সেলিব্রিটি ভিডিও প্রকাশিত হয়।

মাইকেল জ্যাকসন, এলভিস প্রিসলি এবং অ্যামি ওয়াইনহাউসের "পুনরুত্থিত" ছবিগুলি চমকপ্রদ গতিতে ছড়িয়ে পড়ে, যার ফলে অনেক দর্শক আসল এবং নকলের মধ্যে পার্থক্য করতে অক্ষম হয়ে পড়ে।

কিছু ভিডিও মজার হওয়ার জন্য তৈরি করা হয়, যেমন "মিস্টার রজার্স নেবারহুড"-এর হোস্ট ফ্রেড রজার্স টুপাক শাকুরের সাথে র‍্যাপ করেন। কিন্তু তৈরি করা বেশিরভাগ কন্টেন্টই অতিরিক্ত।

এর মধ্যে, পুলিশ ক্যামেরার ভুয়া কোণ থেকে হুইটনি হিউস্টনকে মাতাল অবস্থায় পুনর্নির্মাণের একটি ভিডিও, দুর্ঘটনায় কোবে ব্রায়ান্টের হেলিকপ্টারে ওড়া, যেখানে তিনি এবং তার মেয়ে নিহত হন, এবং প্রাক্তন রাষ্ট্রপতি জন এফ. কেনেডি একজন সমসাময়িক রাজনীতিকের হত্যাকাণ্ড নিয়ে রসিকতা করার ভিডিও, সবই সম্প্রদায়কে ক্ষুব্ধ করে তুলেছিল।

শিথিল নিয়মকানুন

ওপেনএআই-এর নীতিমালায় বলা হয়েছে যে, এই টুলটি শুধুমাত্র তাদের সম্মতিতেই প্রকৃত মানুষের ছবি তুলতে পারবে। তবে, সম্প্রতি চালু হওয়ার সময়, কোম্পানিটি "ঐতিহাসিক ব্যক্তিত্বদের" এই নিয়ম থেকে অব্যাহতি দিয়েছে, যার ফলে ব্যবহারকারীরা মৃত ব্যক্তিদের ভিডিও তৈরি করতে পারবেন। এই সিদ্ধান্ত অনেক ভুক্তভোগীর পরিবারকে ক্ষুব্ধ করেছে।

প্রয়াত অভিনেতা রবিন উইলিয়ামসের মেয়ে জেলদা উইলিয়ামস ইনস্টাগ্রামে শেয়ার করেছেন যে তাকে ক্রমাগত তার বাবার কৃত্রিম বুদ্ধিমত্তার ভিডিও পাঠানো হচ্ছিল এবং তিনি লোকেদের "দয়া করে থামুন" বলে অনুরোধ করেছিলেন।

“প্রকৃত মানুষের উত্তরাধিকারকে ভয়ঙ্কর কর্মকাণ্ডে পরিণত হতে দেখাটা পাগলের মতো, যেখানে টিকটক তাদের নিয়ন্ত্রণ করে,” জেলদা বলেন।

সোরা ২ ব্যবহারের ক্ষেত্রে ওপেনএআই-এর নিয়মকানুন অনেক ফাঁকফোকরে ভরা। ছবি: ব্লুমবার্গ ।

বিশেষজ্ঞরা বলছেন যে এই ঘটনাটি কৃত্রিম বুদ্ধিমত্তা প্রযুক্তির একটি মোড়কে প্রতিফলিত করে, যেখানে সৃজনশীলতা এবং অপরাধের মধ্যে রেখা ঝাপসা হয়ে যায়। ডিপফেক গবেষক হেনরি আজদার বলেন, মৃতদের "কৃত্রিম পুনরুত্থান" ব্যক্তিগত ভাবমূর্তি এবং উত্তরাধিকারের নিয়ন্ত্রণ সম্পর্কে বড় প্রশ্ন উত্থাপন করে।

"যদি আপনি কন্টেন্ট তৈরিতে সেলিব্রিটিদের ছবি ব্যবহার করেন, তাহলে এটি অবশ্যই ভিউ আকর্ষণ করবে। কিন্তু মৃত ব্যক্তির ক্ষেত্রে, এটি একটি গভীর প্রশ্নের উপর আলোকপাত করে: তাদের স্মৃতি এবং পরিচয়ের মালিক কে," আজদার বলেন।

এই প্রতিবাদের জবাবে, ওপেনএআই জানিয়েছে যে এটি সম্প্রতি মৃত ব্যক্তিত্বদের প্রতিনিধিদের সোরা ভিডিও থেকে তাদের ছবি ব্লক করার অনুরোধ করার অনুমতি দেবে। "আমরা বিশ্বাস করি যে জনসাধারণের ব্যক্তিত্ব এবং তাদের পরিবারের তাদের কপিরাইটযুক্ত ছবি কীভাবে ব্যবহার করা হবে তার উপর নিয়ন্ত্রণ থাকা উচিত," ওপেনএআইয়ের একজন মুখপাত্র বলেছেন।

মার্কিন বিনোদন শিল্পের বেশ কয়েকটি সংস্থাও তাদের উদ্বেগ প্রকাশ করেছে। অনেক হলিউড তারকার ব্যবস্থাপনা সংস্থা ক্রিয়েটিভ আর্টিস্ট এজেন্সি বলেছে যে সোরা ২ গ্রাহক এবং বৌদ্ধিক সম্পত্তিকে গুরুতর ঝুঁকির মধ্যে ফেলেছে। মোশন পিকচার অ্যাসোসিয়েশন অফ আমেরিকা (এমপিএএ) নির্মাতাদের অধিকার রক্ষার জন্য "তাৎক্ষণিক এবং সিদ্ধান্তমূলক" পদক্ষেপ নেওয়ার জন্য ওপেনএআই-কে আহ্বান জানিয়েছে।

শুধু শিল্পীরাই নন, ঐতিহাসিক ব্যক্তিত্বরাও এর শিকার হয়েছেন। সোরার তৈরি একটি ভিডিওতে দেখা যাচ্ছে উইনস্টন চার্চিল জেটব্লু প্রচার করছেন অথবা ইন্টারনেটে নোংরা রসিকতা করছেন।

সূত্র: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html