آڈیو ڈیپ فیکس، غلط معلومات کے بارے میں ایک نئی تشویش

نیو ہیمپشائر کے اٹارنی جنرل کے دفتر نے پیر کے روز اعلان کیا کہ وہ جعلی آواز کی شکایات کے بعد ووٹروں کے ممکنہ ہیرا پھیری کی تحقیقات کر رہا ہے جو بالکل ایسے ہی لگ رہا تھا جیسے صدر جو بائیڈن نے ووٹروں کو ریاست کے پرائمری میں ووٹ نہ دینے کی تاکید کی تھی۔

محققین نے سیاست دانوں اور رہنماؤں کی نقل کرنے کے لیے ڈیپ فیک آڈیو کے استعمال سے بھی خبردار کیا، 2023 میں برطانیہ، بھارت، نائیجیریا، سوڈان، ایتھوپیا اور سلواکیہ میں نمایاں کیسز سامنے آئے۔

ڈیپ فیک نئی آڈیو نئی معلومات غلط تصویر 1 — نیو ہیمپشائر، امریکہ میں ایک شخص پرائمری الیکشن میں ووٹ ڈال رہا ہے۔ تصویر: گیٹی

ماہرین کا کہنا ہے کہ ڈیپ فیک آڈیو غلط معلومات کی ایک مقبول شکل بن گئی ہے، اسٹارٹ اپس سے سستے اور موثر AI ٹولز کی ایک رینج کی بدولت۔ مائیکروسافٹ نے ایک نیا AI ماڈل بھی تیار کیا ہے جو صرف تین سیکنڈ کی ریکارڈنگ سے آواز کو نقل کر سکتا ہے۔

"جب بصری ہیرا پھیری کی بات آتی ہے تو، ہر کوئی فوٹوشاپ سے واقف ہوتا ہے یا کم از کم جانتا ہے کہ یہ موجود ہے،" ہینری اجڈر، ایک AI اور ڈیپ فیک ماہر اور ایڈوب، میٹا، اور EY کے مشیر نے کہا۔ "اس بارے میں بہت کم آگاہی ہے کہ آڈیو کو کس طرح جوڑ توڑ کیا جا سکتا ہے، لہذا میرے نزدیک یہ واقعی ہمیں کمزور بنا دیتا ہے۔"

ستمبر میں، نیوز گارڈ، ایک ایسا نظام جو نیوز سائٹس کے معیار اور اعتبار کی درجہ بندی کرتا ہے، نے TikTok اکاؤنٹس کا ایک نیٹ ورک دریافت کیا جو جائز نیوز سائٹس کی نقالی کرتا ہے، سازشی نظریات اور سیاسی غلط معلومات پھیلانے کے لیے AI سے تیار کردہ مواد کا استعمال کرتا ہے۔ سابق امریکی صدر براک اوباما کی آواز سمیت ڈیپ فیک ریکارڈنگ نے لاکھوں افراد کو اپنی طرف متوجہ کیا ہے۔

نیوز گارڈ نے کہا کہ جعلی وائس اوور اینڈریسن ہورووٹز کی حمایت یافتہ ElevenLabs کے فراہم کردہ ایک ٹول کے ذریعے تیار کیے گئے ہیں، جب کہ کلپس کو لاکھوں کی تعداد میں ملایا گیا ہے۔

ElevenLabs نے کہا، "ہمارے پلیٹ فارم پر 99% سے زیادہ صارفین دلچسپ، تخلیقی، مفید مواد تخلیق کر رہے ہیں، لیکن ہم تسلیم کرتے ہیں کہ غلط استعمال کے معاملات ہیں اور ہم نے انہیں محدود کرنے کے لیے مسلسل تحفظات تیار کیے ہیں اور متعارف کرائے ہیں،" ElevenLabs نے کہا۔

ElevenLabs، جس کی بنیاد دو سال قبل Google اور Palantir کے سابق ملازمین Piotr Dabkowski اور Mati Staniszewski نے رکھی تھی، صرف ایک کلک کے ساتھ ابتدائی AI آڈیو جنریشن ٹولز مفت میں پیش کرتی ہے۔ سبسکرپشن پلانز ماہانہ $1 سے لے کر $330 فی مہینہ اور اس سے آگے ان لوگوں کے لیے ہیں جو زیادہ پیچیدہ خدمات کی تلاش میں ہیں۔

پچھلے سال، امریکی انٹیلی جنس ایجنسیوں نے ایک رپورٹ میں خبردار کیا تھا کہ "نفیس اور اچھی تربیت یافتہ AI وائس کلوننگ ماڈلز کے اجراء کی وجہ سے ذاتی نوعیت کے AI گھوٹالوں میں نمایاں اضافہ ہوا ہے۔"

مالی طور پر حوصلہ افزائی کے گھوٹالوں کے علاوہ، سیاسی ماہرین اب وائرل ڈیپ فیک آڈیو کلپس کے ساتھ ساتھ روبو کالز یا مہمات کے لیے ڈیپ فیکس کے استعمال کے بارے میں خطرے کی گھنٹی بجا رہے ہیں۔ سائبر سیکیورٹی گروپ ZeroFox کے نائب صدر اور ممتاز انٹیلی جنس فیلو AJ Nash نے کہا، "آپ فون کو نشانہ بنا کر ایک طاقتور، وسیع پیمانے پر غلط معلومات پھیلانے کی مہم بنا سکتے ہیں۔"

ان میں سے کچھ کمپنیاں غلط معلومات سے نمٹنے کے لیے دوسرے طریقے تلاش کرنے میں سرگرم رہی ہیں۔ مائیکروسافٹ نے ایک اخلاقیات کا بیان جاری کیا ہے جس میں صارفین پر زور دیا گیا ہے کہ وہ اپنے AI آڈیو ٹول کے غلط استعمال کی اطلاع دیں۔ ElevenLabs نے اپنے سسٹم کی طرف سے تیار کردہ آڈیو ریکارڈنگز کی شناخت کے لیے اپنے شناختی ٹولز بنائے ہیں۔

انسانی حقوق کے گروپ فریڈم ہاؤس کے مطابق، نائیجیریا کے 2023 کے انتخابات کے دوران، ایک AI سے ہیرا پھیری کا کلپ سوشل میڈیا پر وائرل ہوا تھا "مطلب طور پر تجویز کیا گیا تھا کہ ایک اپوزیشن امیدوار ووٹ میں دھاندلی کا منصوبہ بنا رہا ہے،"۔

سلوواکیہ میں، حزب اختلاف کے امیدوار Michal Šimečka کی ایک جعلی آڈیو ریکارڈنگ جو بظاہر انتخابات میں دھاندلی کی سازش کر رہی تھی، ستمبر میں ملک کے صدارتی انتخابات سے چند روز قبل وائرل ہوئی تھی۔

"نیو ہیمپشائر ڈیپ فیک ان بہت سے طریقوں کی یاد دہانی ہے جن سے ڈیپ فیکس الجھ سکتے ہیں اور دھوکہ دے سکتے ہیں،" رابرٹ ویس مین، غیر منافع بخش صارفین کی وکالت گروپ پبلک سٹیزن کے صدر نے کہا۔ "سیاسی گہرا جعلی لمحہ آ گیا ہے۔ پالیسی سازوں کو حفاظتی اقدامات کرنے کے لیے تیزی سے آگے بڑھنا چاہیے ورنہ ہمیں انتخابی افراتفری کا سامنا کرنا پڑے گا۔"

مائی انہ (FT کے مطابق)

ماخذ