ডিপফেক ব্যাপকভাবে ছড়িয়ে পড়েছে - এআই ছদ্মবেশ ধারণের কৌশল থেকে কেউই নিরাপদ নয়

কণ্ঠস্বর অনুকরণ, মুখের অনুকরণ, ঠোঁট-সমন্বয়... কৃত্রিম বুদ্ধিমত্তা এখন কেবল কাজ এবং বিনোদনের জন্যই নয় বরং এটি একটি বিপজ্জনক বাণিজ্যিক জালিয়াতির হাতিয়ার হয়ে উঠছে। সেলিব্রিটি, ডাক্তার এমনকি সন্ন্যাসীদের ছবি ছদ্মবেশে কৃত্রিম বুদ্ধিমত্তা সামাজিক নেটওয়ার্কগুলিতে পণ্য বিক্রি করছে। প্রকৃত মানুষ তা জানে না, এবং ক্রেতারা আস্থা হারিয়ে ফেলে।

পণ্য বিক্রি করার জন্য "ধার করা মুখ" হওয়া

"আসল হাঁটু যেমনই হোক না কেন, আমাদের পদ্ধতিটি প্রয়োগ করুন, আমরা গ্যারান্টি দিচ্ছি যে ৭ দিনের মধ্যে এটি উল্লেখযোগ্যভাবে উন্নত হবে, যদি এটি সম্পূর্ণরূপে অকার্যকর হয়, তাহলে আমি আন্তরিকভাবে ক্ষমাপ্রার্থী হিসেবে ১ বিলিয়ন ভিয়েতনামি ডং ক্ষতিপূরণ দিতে ইচ্ছুক। যদি আপনি সত্যিই কোনও প্রভাব দেখতে না পান, তাহলে আমরা ১০০% ফেরত দিতে প্রতিশ্রুতিবদ্ধ এবং আমি নিজেও ১ বিলিয়ন ভিয়েতনামি ডং ক্ষতিপূরণ দিতে ইচ্ছুক, সবাই এমন প্রতিশ্রুতি দেওয়ার সাহস করে না", এটি একজন বিখ্যাত মহিলা গায়িকার জয়েন্টের ব্যথা উপশমকারী ম্যাসাজ ক্রিম পণ্যের বিজ্ঞাপনের শেয়ার, তবে এটি উল্লেখ করার মতো যে এই বিজ্ঞাপনটি সম্পূর্ণরূপে এআই দ্বারা তৈরি করা হয়েছিল।

উপরের বিজ্ঞাপন ক্লিপটি LShop নামের একটি TikTok অ্যাকাউন্ট দ্বারা বাস্তবসম্মতভাবে ব্যবহার করা হয়েছে, যেখানে মহিলা গায়িকার ছবি, কণ্ঠস্বর এবং শারীরিক ভাষা ব্যবহার করা হয়েছে যা সাবধানে পর্যবেক্ষণ না করলে সনাক্ত করা সম্ভব নয়। এই অ্যাকাউন্টটির প্রায় ৯,০০০ ফলোয়ার, ৬৭,০০০ লাইক এবং প্রতিটি ক্লিপ হাজার হাজার ভিউ পেয়েছে। উপরের মহিলা গায়িকার ছবি থেকে নেওয়া "বিজ্ঞাপন" ভিডিওটি ১,০০০ এরও বেশি লাইক এবং প্রায় ১০০ টি মন্তব্য পেয়েছে।

একই ম্যাসাজ ক্রিম পণ্য ব্যবহার করে, বিক্রয় চ্যানেলগুলি আরেকটি ডিপফেক সংস্করণ "প্রযোজনা" করেছে, এবার একজন ডাক্তার। ক্লিপে, চরিত্রটি দৃঢ়ভাবে প্রতিশ্রুতি দিয়েছে: "আমি হ্যানয়ের সবচেয়ে মর্যাদাপূর্ণ অর্থোপেডিক ডাক্তার এবং আমি গ্যারান্টি দিচ্ছি যে সবচেয়ে গুরুতর মেনিস্কাস টিয়ারও মাত্র 3 দিনের মধ্যে সম্পূর্ণরূপে নিরাময় করা যেতে পারে। এই জেলটি ভিয়েতনামের সবচেয়ে মর্যাদাপূর্ণ অর্থোপেডিক অ্যাসোসিয়েশন দ্বারা প্রত্যয়িত হয়েছে"। এই লাইনটি AI দ্বারা অন্যান্য "ডাক্তারদের" একটি সিরিজের জন্য পুনরায় তৈরি করা হয়েছিল, যার ফলে দর্শকরা এটিকে বাস্তব বলে ভুল করতে পারে।

ক্লিপটি প্রায় ৪,০০০ লাইক এবং ১২০ টিরও বেশি মন্তব্য পেয়েছে, কিন্তু যখন আমরা অর্ডার করার জন্য টেক্সট করেছিলাম, তখন অ্যাকাউন্টটি কোনও সাড়া দেয়নি, মন্তব্য বিভাগে দর্শকদের সাথে যোগাযোগও করেনি, কেবল পণ্যটি সরাসরি কেনার জন্য কার্টে রেখেছিল। উল্লেখযোগ্যভাবে, বিক্রয়ের জন্য পণ্যটি চীন থেকে এসেছে এবং পণ্যের তথ্য খুবই অস্পষ্ট ছিল।

গায়ক, সেলিব্রিটি থেকে শুরু করে ডাক্তার, সকলেই স্বাস্থ্য-সম্পর্কিত পণ্য বিক্রির জন্য AI ক্লিপ তৈরি করে এমন বিক্রয় চ্যানেলগুলির দ্বারা ছদ্মবেশ ধারণ করেছেন।

এখানেই থেমে নেই, ডিপফেক কৌশলটি আধ্যাত্মিক বিষয়গুলিতেও ছড়িয়ে পড়েছে। ফাট ফাপ এনএম নামে একটি টিকটক অ্যাকাউন্ট কেবল মাস্টার টিপিএইচ-এর বক্তৃতাগুলি পুনরায় পোস্ট করেনি, বরং বোধি পাতা এবং আগরউড ব্রেসলেটের মতো পণ্য বিক্রি করে এমন "মাস্টার"-এর ছবি তৈরি করতে এআই প্রযুক্তি ব্যবহার করেছে।

দর্শকরা যখন কেনার জন্য মন্তব্য করেন, তখন চ্যানেলটি প্রতিক্রিয়া জানায়: "যদি জিনিসগুলি প্রত্যাশা অনুযায়ী না হয়, তাহলে আমার অ্যাকাউন্টের প্রদর্শন বিভাগে যান এবং আপনার যা প্রয়োজন তা বেছে নিন, ছোট জিনিসের সাথে কৃপণতা করবেন না এবং বড় জিনিসটি উপেক্ষা করবেন না।" এর পরপরই, এই সন্ন্যাসী নিজেই স্পষ্ট করে বলতে বাধ্য হন যে তিনি কখনও এই ধরণের পণ্যের বিজ্ঞাপন দেননি বা এর সাথে জড়িত ছিলেন না।

সৃজনশীলতা এবং লঙ্ঘনের মধ্যে রেখা

ন্যাশনাল সাইবার সিকিউরিটি মনিটরিং সেন্টার (এনসিএসসি) এর সাইবার সিকিউরিটি বিশেষজ্ঞ এনগো মিন হিউ (হিউ পিসি) বলেছেন যে সোশ্যাল নেটওয়ার্কে ছড়িয়ে পড়া ভুয়া বিজ্ঞাপন ক্লিপগুলি মূলত ডিপফেক সফ্টওয়্যার দিয়ে তৈরি করা হয়। এই সফ্টওয়্যারগুলি বিরল নয়, অনেক পরিষেবা এমনকি কম খরচে এবং খুব সহজ অপারেশন সহ প্যাকেজ সরবরাহ করে। যদিও ডিজিটাল কন্টেন্ট তৈরি এবং মিডিয়া উৎপাদনের ক্ষেত্রে ইতিবাচক প্রয়োগ রয়েছে, মিঃ হিউয়ের মতে, সমস্যাটি হল যে কিছু বিষয় এই প্রযুক্তির সুবিধা গ্রহণ করেছে যেমন জালিয়াতি, পরিচয় জালিয়াতি, জাল খবর ছড়িয়ে দেওয়া বা আসল দেখায় এমন ভিডিওর মাধ্যমে অন্যদের মানহানি করা।

মিঃ হিউ ডিপফেক ক্লিপগুলি শনাক্ত করতে সাহায্য করার জন্য কিছু লক্ষণও দিয়েছেন, যেমন ভিডিওতে মুখের ভাব কিছুটা শক্ত হওয়া, মুখের আকৃতি এবং নড়াচড়া যা সংলাপের সাথে মেলে না... মিঃ হিউ সতর্ক করে দিয়েছিলেন যে আরও গুরুতর পরিস্থিতি রয়েছে যেখানে ভয় দেখানো, জোর করে এবং লাভবান হওয়ার উদ্দেশ্যে সংবেদনশীল ভিডিওগুলিতে ভুক্তভোগীদের মুখ ঢোকানোর জন্য AI ব্যবহার করা হয়েছে।

হো চি মিন সিটি বার অ্যাসোসিয়েশনের আইনজীবী ট্রান ডুক ফুওং-এর মতে, সেলিব্রিটিদের (অথবা নির্দিষ্ট ব্যক্তিদের) সম্মতি ছাড়া ছবি তৈরি করার জন্য কৃত্রিম বুদ্ধিমত্তা ব্যবহার করা ব্যক্তিগত অধিকার লঙ্ঘনের একটি কাজ, বিশেষ করে ছবির অধিকার, যা ২০১৫ সালের সিভিল কোডের ৩২ অনুচ্ছেদে বর্ণিত হয়েছে। আইনে বলা হয়েছে: "ব্যক্তিদের নিজস্ব ছবির অধিকার রয়েছে। একজন ব্যক্তির ছবির ব্যবহারের ক্ষেত্রে সেই ব্যক্তির সম্মতি থাকতে হবে। বাণিজ্যিক উদ্দেশ্যে কোনও ছবির ব্যবহারের জন্য যার ছবি ব্যবহার করা হচ্ছে তাকে ক্ষতিপূরণ দিতে হবে, যদি না পক্ষগুলির মধ্যে আলাদা চুক্তি থাকে।"

সুতরাং, যদি কোনও সোশ্যাল নেটওয়ার্ক অ্যাকাউন্টের মালিক অনুমতি ছাড়াই বিজ্ঞাপন বা বিক্রয়ের উদ্দেশ্যে আসল ছবি, পুরানো ভিডিও ইত্যাদি থেকে কৃত্রিম বুদ্ধিমত্তা (এআই) দ্বারা পুনঃনির্মিত ছবি ব্যবহার করেন, তাহলে তিনি আইন লঙ্ঘন করেছেন। যদি কোনও ছবির ব্যবহার এই ধারার বিধান লঙ্ঘন করে, তাহলে ছবিটির মালিক আদালতকে লঙ্ঘনকারী, সংশ্লিষ্ট সংস্থা, সংস্থা এবং ব্যক্তিদের ছবিটির ব্যবহার প্রত্যাহার, ধ্বংস এবং বন্ধ করতে, ক্ষতিপূরণ দিতে এবং আইনের বিধান অনুসারে অন্যান্য ব্যবস্থা প্রয়োগ করতে বাধ্য করার জন্য একটি সিদ্ধান্ত জারি করার জন্য অনুরোধ করার অধিকার রাখেন।

ক্যাম নুং

সূত্র: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html