ডিপফেক অডিও, ভুল তথ্য সম্পর্কে একটি নতুন উদ্বেগ

[বিজ্ঞাপন_১]

নিউ হ্যাম্পশায়ার অ্যাটর্নি জেনারেলের অফিস সোমবার ঘোষণা করেছে যে তারা সম্ভাব্য ভোটার কারচুপির তদন্ত করছে, যেখানে অভিযোগ উঠেছে যে মার্কিন প্রেসিডেন্ট জো বাইডেনের মতোই একটি ভুয়া কণ্ঠস্বর শোনা যাচ্ছে, যেখানে তিনি রাজ্যের প্রাইমারিতে ভোট না দেওয়ার জন্য ভোটারদের আহ্বান জানিয়েছেন।

গবেষকরা রাজনীতিবিদ এবং নেতাদের অনুকরণ করার জন্য ডিপফেক অডিও ব্যবহারের বিষয়েও সতর্ক করেছেন, যার উল্লেখযোগ্য ঘটনা ২০২৩ সালে যুক্তরাজ্য, ভারত, নাইজেরিয়া, সুদান, ইথিওপিয়া এবং স্লোভাকিয়ায় ঘটেছে।

ডিপফেক নতুন অডিও নতুন তথ্য মিথ্যা ছবি ১ — মার্কিন যুক্তরাষ্ট্রের নিউ হ্যাম্পশায়ারে প্রাইমারি নির্বাচনে ভোট দিচ্ছেন একজন ব্যক্তি। ছবি: গেটি

বিশেষজ্ঞদের মতে, স্টার্টআপগুলি থেকে সস্তা এবং কার্যকর AI সরঞ্জামের আবির্ভাবের কারণে ডিপফেক অডিও ভুল তথ্যের একটি জনপ্রিয় রূপ হয়ে উঠেছে। মাইক্রোসফ্ট একটি নতুন AI মডেলও তৈরি করেছে যা মাত্র তিন সেকেন্ডের রেকর্ডিং থেকে ভয়েস কপি করতে পারে।

"ভিজ্যুয়াল ম্যানিপুলেশনের ক্ষেত্রে, সবাই ফটোশপের সাথে পরিচিত অথবা অন্তত জানে যে এটি বিদ্যমান," অ্যাডোব, মেটা এবং ইওয়াই-এর একজন এআই এবং ডিপফেক বিশেষজ্ঞ এবং পরামর্শদাতা হেনরি আজদার বলেন। "অডিও কীভাবে ম্যানিপুলেশন করা যেতে পারে সে সম্পর্কে খুব কম সচেতনতা রয়েছে, তাই আমার কাছে এটি সত্যিই আমাদের দুর্বল করে তোলে।"

সেপ্টেম্বরে, নিউজগার্ড, একটি সিস্টেম যা নিউজ সাইটের মান এবং বিশ্বাসযোগ্যতা মূল্যায়ন করে, বৈধ নিউজ সাইটের ছদ্মবেশে টিকটক অ্যাকাউন্টগুলির একটি নেটওয়ার্ক আবিষ্কার করে, যারা ষড়যন্ত্র তত্ত্ব এবং রাজনৈতিক ভুল তথ্য ছড়িয়ে দেওয়ার জন্য কৃত্রিম বুদ্ধিমত্তা-উত্পাদিত সামগ্রী ব্যবহার করে। প্রাক্তন মার্কিন রাষ্ট্রপতি বারাক ওবামার কণ্ঠস্বর সহ ডিপফেক রেকর্ডিংগুলি লক্ষ লক্ষ ভিউ অর্জন করেছে।

নিউজগার্ড জানিয়েছে, ভুয়া ভয়েসওভারগুলি অ্যান্ড্রিসেন হোরোভিটজ-সমর্থিত ইলেভেনল্যাবস দ্বারা সরবরাহিত একটি সরঞ্জাম দ্বারা তৈরি করা হয়েছে বলে মনে হচ্ছে, যদিও ক্লিপগুলি লক্ষ লক্ষ ভিউ অর্জন করেছে।

"আমাদের প্ল্যাটফর্মের ৯৯% এরও বেশি ব্যবহারকারী আকর্ষণীয়, সৃজনশীল, দরকারী সামগ্রী তৈরি করছেন, কিন্তু আমরা স্বীকার করি যে অপব্যবহারের ঘটনা রয়েছে এবং আমরা তাদের সীমাবদ্ধ করার জন্য ক্রমাগত সুরক্ষা তৈরি এবং চালু করেছি," ইলেভেনল্যাবস বলেছে।

দুই বছর আগে গুগল এবং প্যালান্টিরের প্রাক্তন কর্মচারী পিওতর ডাবকোস্কি এবং মাতি স্ট্যানিসজেউস্কি দ্বারা প্রতিষ্ঠিত ইলেভেনল্যাবস, মাত্র এক ক্লিকেই বিনামূল্যে প্রাথমিক এআই অডিও জেনারেশন টুল অফার করে। যারা আরও জটিল পরিষেবা খুঁজছেন তাদের জন্য সাবস্ক্রিপশন প্ল্যান প্রতি মাসে $1 থেকে $330 এবং তার বেশি।

গত বছর, মার্কিন গোয়েন্দা সংস্থাগুলি একটি প্রতিবেদনে সতর্ক করে দিয়েছিল যে "অত্যাধুনিক এবং সু-প্রশিক্ষিত AI ভয়েস ক্লোনিং মডেল প্রকাশের কারণে ব্যক্তিগতকৃত AI কেলেঙ্কারি উল্লেখযোগ্যভাবে বৃদ্ধি পেয়েছে।"

আর্থিকভাবে উদ্দেশ্যপ্রণোদিত কেলেঙ্কারির পাশাপাশি, রাজনৈতিক বিশেষজ্ঞরা এখন ভাইরাল ডিপফেক অডিও ক্লিপ, সেইসাথে রোবোকল বা প্রচারণার জন্য ডিপফেক ব্যবহারের বিষয়ে সতর্ক করছেন। সাইবার সিকিউরিটি গ্রুপ জিরোফক্সের ভাইস প্রেসিডেন্ট এবং বিশিষ্ট গোয়েন্দা ফেলো এজে ন্যাশ বলেন, "ফোনকে লক্ষ্য করে আপনি একটি শক্তিশালী, ব্যাপক বিভ্রান্তিকর প্রচারণা তৈরি করতে পারেন।"

এই কোম্পানিগুলির মধ্যে কিছু ভুল তথ্য প্রতিরোধের অন্যান্য উপায় খুঁজে বের করার ক্ষেত্রে সক্রিয় ভূমিকা পালন করেছে। মাইক্রোসফ্ট একটি নীতিশাস্ত্র বিবৃতি জারি করেছে, যেখানে ব্যবহারকারীদের তাদের AI অডিও টুলের যেকোনো অপব্যবহারের বিষয়ে রিপোর্ট করার আহ্বান জানানো হয়েছে। ElevenLabs তাদের সিস্টেম দ্বারা তৈরি অডিও রেকর্ডিং সনাক্ত করার জন্য নিজস্ব সনাক্তকরণ সরঞ্জাম তৈরি করেছে।

মানবাধিকার সংস্থা ফ্রিডম হাউসের মতে, নাইজেরিয়ার ২০২৩ সালের নির্বাচনের সময়, একটি কৃত্রিম বুদ্ধিমত্তা (এআই) দ্বারা চালিত ক্লিপ সোশ্যাল মিডিয়ায় ভাইরাল হয়েছিল "যা থেকে বোঝা যাচ্ছে যে একজন বিরোধী প্রার্থী ভোট কারচুপির পরিকল্পনা করছেন।"

স্লোভাকিয়ায়, সেপ্টেম্বরে দেশটির রাষ্ট্রপতি নির্বাচনের কয়েকদিন আগে বিরোধী প্রার্থী মিশাল সিমেচকার নির্বাচন কারচুপির ষড়যন্ত্রের একটি ভুয়া অডিও রেকর্ডিং ভাইরাল হয়েছিল।

"নিউ হ্যাম্পশায়ার ডিপফেক আমাদের মনে করিয়ে দেয় যে ডিপফেক কীভাবে বিভ্রান্ত এবং প্রতারণা করতে পারে," অলাভজনক ভোক্তা অ্যাডভোকেসি গ্রুপ পাবলিক সিটিজেনের সভাপতি রবার্ট ওয়েইসম্যান বলেছেন। "রাজনৈতিক ডিপফেকের সময় এসে গেছে। নীতিনির্ধারকদের দ্রুত পদক্ষেপ নিতে হবে সুরক্ষা ব্যবস্থা গ্রহণ করার জন্য, অন্যথায় আমরা নির্বাচনী বিশৃঙ্খলার মুখোমুখি হব।"

মাই আন (এফটি অনুসারে)

[বিজ্ঞাপন_২]
উৎস