غزہ کی جنگ کے ڈیپ فیک نے AI کے بارے میں خدشات کو جنم دیا۔

لاکھوں بار آن لائن دیکھی گئی، تصاویر مصنوعی ذہانت کا استعمال کرتے ہوئے بنائی گئی ڈیپ فیکس ہیں۔ اگر آپ قریب سے دیکھیں تو آپ کو بتانے والے نشانات نظر آئیں گے: عجیب و غریب خمیدہ انگلیاں یا آنکھیں جو غیر فطری روشنی سے چمکتی ہیں۔

تاہم، ان گہری جعلی تصاویر سے پیدا ہونے والا غم و غصہ حقیقی ہے۔

اسرائیل-حماس جنگ کی تصاویر واضح اور دردناک طریقے سے AI کے خطرات کو ایک پروپیگنڈے کے آلے کے طور پر بیان کرتی ہیں، جو زندگی جیسی تصاویر بنانے کے لیے استعمال ہوتی ہے۔

پچھلے مہینے لڑائی شروع ہونے کے بعد سے، سوشل میڈیا پر گردش کرنے والی ڈیجیٹل طور پر ہیرا پھیری کی گئی تصاویر کو ہلاکتوں کی ذمہ داری کے بارے میں جھوٹے دعوے کرنے یا ان مظالم کے بارے میں لوگوں کو گمراہ کرنے کے لیے استعمال کیا جاتا ہے جو کبھی نہیں ہوا۔

غزہ جنگ کی ڈیپ فیک تصاویر نے نئے خدشات کو جنم دیا ہے تصویر 1 — غزہ میں ایک فلسطینی ملبے سے سامان اٹھا رہا ہے۔ اے پی فوٹو۔

بڑھتی ہوئی تعدد اور بہت کم نگرانی کے ساتھ تکنیکی ترقی ہو رہی ہے۔ یہ AI کے ہتھیار کی ایک اور شکل بننے کے خطرے کو واضح کرتا ہے اور مستقبل کے تنازعات، انتخابات اور دیگر اہم واقعات میں کیا ہونے والا ہے اس کی ابتدائی جھلک پیش کرتا ہے۔

آن لائن شکایات کی درستگی کا اندازہ لگانے کے لیے AI کا استعمال کرنے والی سان فرانسسکو- اور پیرس میں قائم ٹیکنالوجی کمپنی CREOpoint کے سی ای او، جین کلاڈ گولڈنسٹین نے کہا، "چیزیں بہتر ہونے سے پہلے بہت زیادہ خراب ہونے والی ہیں۔"

ان کی کمپنی نے غزہ سے ابھرنے والی سب سے زیادہ وائرل ہونے والی ڈیپ فیک تصاویر کا ڈیٹا بیس مرتب کیا ہے۔ "تصاویر، ویڈیوز اور آڈیو: تخلیقی AI کے ساتھ، یہ ایک ایسا قدم ہے جو آپ نے پہلے کبھی نہیں دیکھا ہوگا،" انہوں نے کہا۔

سنٹر فار کاؤنٹرنگ ڈیجیٹل ہیٹ کے سی ای او عمران احمد، ایک غیر منافع بخش ادارہ جو جنگ سے متعلق غلط معلومات پر نظر رکھتا ہے، نے کہا کہ ایسی تصاویر بنانے والے پروپیگنڈہ کرنے والے لوگوں کے شدید جذبات اور پریشانیوں کو نشانہ بنانے میں ماہر ہیں۔

تصویر جتنی زیادہ خوفناک ہوگی، صارفین کے اس کو یاد رکھنے اور شیئر کرنے کا امکان اتنا ہی زیادہ ہوگا، نادانستہ طور پر مزید غلط معلومات پھیلائی جائیں گی۔ اسی طرح کی AI سے پیدا ہونے والی غلط معلومات واقعی روس-یوکرین تنازعہ کے بعد سے وائرل ہونا شروع ہو گئی ہیں۔

ہر نیا تنازعہ یا انتخابی موسم غلط معلومات پھیلانے والوں کے لیے نئے مواقع پیش کرتا ہے۔ اس میں بہت سے AI ماہرین اور سیاسیات کے ماہرین نے آنے والے سال میں خطرات سے خبردار کیا ہے، جب کئی ممالک میں بڑے انتخابات ہوں گے، جن میں امریکہ، بھارت، پاکستان، یوکرین، انڈونیشیا اور میکسیکو شامل ہیں۔

امریکی ووٹروں میں جھوٹ پھیلانے کے لیے AI اور سوشل میڈیا کے استعمال ہونے کے خطرے نے واشنگٹن میں دونوں جماعتوں کے قانون سازوں کو پریشان کر دیا ہے۔ ڈیپ فیک ٹیکنالوجی کے خطرات کے بارے میں ایک حالیہ سماعت میں، ورجینیا کے ڈیموکریٹ امریکی نمائندے جیری کونولی نے کہا کہ امریکہ کو دوسرے AI کا مقابلہ کرنے کے لیے بنائے گئے AI ٹولز کی ترقی کے لیے فنڈز فراہم کرنے کی ضرورت ہے۔

یونیورسٹی آف بفیلو کے پروفیسر ڈیوڈ ڈورمین نے کہا کہ AI سے پیدا ہونے والی غلط معلومات سے پیدا ہونے والے سیاسی اور سماجی چیلنجوں کا مؤثر طریقے سے جواب دینے کے لیے بہتر ٹیکنالوجی اور بہتر ضابطے کی ضرورت ہوگی۔

مائی انہ (اے پی کے مطابق)

ماخذ