ডিপফেক পর্ন, এআই দৌড়ে একটি সমস্যা

[বিজ্ঞাপন_১]

ডিপফেক হলো এমন ভিডিও এবং ছবি যা কৃত্রিম বুদ্ধিমত্তা (AI) বা মেশিন লার্নিং (ML) ব্যবহার করে ডিজিটালভাবে তৈরি বা পরিবর্তন করা হয়। প্রযুক্তি ব্যবহার করে তৈরি পর্নোগ্রাফি প্রথম ইন্টারনেটে প্রচারিত হয় কয়েক বছর আগে যখন একজন রেডডিট ব্যবহারকারী সেলিব্রিটিদের মুখের সাথে ভুয়া পর্নো ক্লিপ শেয়ার করেন।

প্রতিযোগিতার ছবি ১-এ ডিপফেক এখনও কঠিন। — ছবি: জিআই

যে কেউ এর শিকার হতে পারে।

তারপর থেকে, ডিপফেক নির্মাতারা অনলাইনে প্রভাবশালী, সাংবাদিক এবং পাবলিক প্রোফাইলধারী অন্যান্যদের লক্ষ্য করে একই ধরণের ভিডিও এবং ছবি পোস্ট করে আসছেন। অসংখ্য ওয়েবসাইটে এই ধরণের হাজার হাজার ভিডিও বিদ্যমান।

কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি ক্রমশ সহজলভ্য হয়ে উঠছে, যার ফলে ব্যবহারকারীরা তাদের সম্মতি ছাড়াই যে কাউকে "পর্ন তারকা" বানাতে পারবেন, অথবা আরও বিপজ্জনকভাবে, অন্যদের মানহানি বা ব্ল্যাকমেইল করার জন্য প্রযুক্তি ব্যবহার করতে পারবেন।

বিশেষজ্ঞরা বলছেন যে ইন্টারনেট থেকে কোটি কোটি ছবির উপর প্রশিক্ষিত জেনারেটিভ এআই টুল তৈরির ফলে সমস্যাটি আরও খারাপ হতে পারে এবং বিদ্যমান ডেটা ব্যবহার করে নতুন কন্টেন্ট তৈরি করা সম্ভব।

"বাস্তবতা হলো প্রযুক্তির বিস্তার অব্যাহত থাকবে, এটি বিকশিত হতে থাকবে এবং এটি আরও সহজলভ্য এবং সহজলভ্য হতে থাকবে," প্রযুক্তির অপব্যবহারের উপর প্রশিক্ষণ প্রদানকারী একটি দল, EndTAB-এর প্রতিষ্ঠাতা অ্যাডাম ডজ বলেন। "এবং যতক্ষণ এটি চলতে থাকবে, মানুষ নিঃসন্দেহে ... অন্যদের ক্ষতি করার জন্য সেই প্রযুক্তির অপব্যবহার চালিয়ে যাবে, মূলত অনলাইন যৌন সহিংসতা, ডিপফেক পর্নোগ্রাফি এবং নকল নগ্নতার মাধ্যমে।"

অস্ট্রেলিয়ার পার্থের নোয়েল মার্টিন এই বাস্তবতা অনুভব করেছেন। ২৮ বছর বয়সী এই তরুণী ১০ বছর আগে কৌতূহলবশত একদিন গুগলে নিজের ছবি সার্চ করে নিজের ডিপফেক পর্ন আবিষ্কার করেন। আজও মার্টিন বলেন যে তিনি জানেন না কে এই ভুয়া পর্ন ছবি বা ভিডিও তৈরি করেছে। তিনি সন্দেহ করেন যে কেউ তার সোশ্যাল মিডিয়ার ছবি ব্যবহার করে পর্ন ভিডিও তৈরি করেছে।

মার্টিন ভিডিওগুলি সরানোর জন্য সাইটগুলির সাথে যোগাযোগ করার চেষ্টা করেছিলেন, কিন্তু তার প্রচেষ্টা ব্যর্থ হয়েছিল। কেউ কেউ সাড়া দেয়নি। অন্যরা সেগুলি সরিয়ে ফেলেছিল কিন্তু দ্রুত পুনরায় পোস্ট করেছিল। "আপনি জিততে পারবেন না," মিসেস মার্টিন বলেছিলেন। "এটি চিরকাল ইন্টারনেটে থাকবে এবং এটি আপনার জীবনকে ধ্বংস করে দিতে পারে।"

সমস্যা সমাধানের জন্য প্রযুক্তি কোম্পানিগুলির প্রচেষ্টা

কিছু এআই মডেল বলেছে যে তারা পর্নোগ্রাফিক ছবির অ্যাক্সেস সীমিত করেছে।

OpenAI জানিয়েছে যে তারা তাদের DALL-E ইমেজ জেনারেটর প্রশিক্ষণের জন্য ব্যবহৃত ডেটা থেকে পর্নোগ্রাফিক কন্টেন্ট সরিয়ে দিয়েছে, যা এর অপব্যবহারের সম্ভাবনা সীমিত করবে। কোম্পানিটি অনুরোধগুলিও ফিল্টার করে এবং বলে যে এটি ব্যবহারকারীদের সেলিব্রিটি এবং বিশিষ্ট রাজনীতিবিদদের AI ছবি তৈরি করতে বাধা দেয়। আরেকটি মডেল, Midjourney, নির্দিষ্ট কীওয়ার্ডের ব্যবহারও ব্লক করে এবং ব্যবহারকারীদের মডারেটরদের কাছে সমস্যাযুক্ত ছবি ফ্ল্যাগ করতে উৎসাহিত করে।

ইতিমধ্যে, স্ট্যাবিলিটি এআই একটি আপডেটও চালু করেছে যা ব্যবহারকারীদের স্পষ্ট ছবি তৈরি করতে বাধা দেয়। কিছু ব্যবহারকারী সেলিব্রিটি-অনুপ্রাণিত নগ্ন ছবি তৈরি করতে প্রযুক্তি ব্যবহার করছেন বলে রিপোর্টের পরে এই পরিবর্তনগুলি এসেছে।

স্ট্যাবিলিটি এআই-এর মুখপাত্র মোতেজ বিশারা বলেন, ফিল্টারটি নগ্নতা শনাক্ত করার জন্য কীওয়ার্ড এবং ছবি শনাক্তকরণের মতো অন্যান্য কৌশলের সংমিশ্রণ ব্যবহার করে। তবে ব্যবহারকারীরা সফ্টওয়্যারটি পরিবর্তন করতে পারেন এবং যা খুশি তৈরি করতে পারেন, কারণ কোম্পানিটি অ্যাপটির ওপেন সোর্স কোড প্রকাশ করেছে।

কিছু সোশ্যাল মিডিয়া কোম্পানি তাদের প্ল্যাটফর্মগুলিকে ক্ষতিকারক উপাদান থেকে আরও ভালোভাবে রক্ষা করার জন্য নিয়ম কঠোর করেছে।

গত মাসে, টিকটক বলেছিল যে সমস্ত ডিপফেক বা ম্যানিপুলেটেড কন্টেন্টকে অবশ্যই লেবেলযুক্ত করে বোঝাতে হবে যে এটি জাল বা কোনওভাবে পরিবর্তিত।

জানুয়ারির শেষের দিকে একটি লাইভস্ট্রিমের সময় অ্যাট্রিওক নামে একজন জনপ্রিয় স্ট্রিমার তার ব্রাউজারে একটি ডিপফেক পর্ন সাইট খুলতে ধরা পড়ার পর গেমিং প্ল্যাটফর্ম টুইচ সম্প্রতি ডিপফেক ছবির উপর তার নীতিমালা আপডেট করেছে।

অ্যাপল এবং গুগল জানিয়েছে যে তারা সম্প্রতি তাদের অ্যাপ স্টোর থেকে একটি অ্যাপ সরিয়ে দিয়েছে কারণ তাদের পণ্য বাজারজাত করার জন্য যৌন ইঙ্গিতপূর্ণ ডিপফেক ভিডিও চালানো হয়েছিল।

পশ্চিমা গায়ক থেকে কে-পপ আইডল।

ডিপফেক পর্ন নিয়ে গবেষণা বিরল, কিন্তু এআই কোম্পানি ডিপট্রেস ল্যাবসের ২০১৯ সালের একটি প্রতিবেদনে দেখা গেছে যে এটি প্রায় সম্পূর্ণরূপে নারীদের বিরুদ্ধে অস্ত্র হিসেবে ব্যবহৃত হয়েছে, যেখানে পশ্চিমা অভিনেত্রীরা সবচেয়ে বেশি লক্ষ্যবস্তুতে পরিণত হয়েছেন, তারপরে কে-পপ গায়িকারা।

মেটার মুখপাত্র ড্যানি লিভার এক বিবৃতিতে বলেছেন যে কোম্পানির নীতিগুলি AI- এবং নন-AI-উত্পাদিত প্রাপ্তবয়স্কদের সামগ্রী উভয়কেই সীমাবদ্ধ করে এবং এটি ডিপফেক-উত্পাদক অ্যাপের পৃষ্ঠাটিকে তার প্ল্যাটফর্মে বিজ্ঞাপন দেওয়া থেকে বিরত রাখে।

ফেব্রুয়ারিতে, মেটা, এবং Only**** এবং Porn*** এর মতো প্রাপ্তবয়স্কদের জন্য তৈরি সাইটগুলি, Take It Down নামক একটি অনলাইন টুলে অংশগ্রহণ শুরু করে, যা কিশোর-কিশোরীদের ইন্টারনেট থেকে নিজেদের যৌন স্পষ্ট ছবি এবং ভিডিও রিপোর্ট করার অনুমতি দেয়। সাইটটি গোপনে ধারণ করা ভিডিও এবং AI-উত্পাদিত ভিডিও উভয়কেই সমর্থন করে।

হোয়াং টন (এপি অনুসারে)

[বিজ্ঞাপন_২]
উৎস