آسٹریلیا کا نیا AI ٹول نقصان دہ ڈیپ فیک تصاویر سے لڑتا ہے۔

آسٹریلیا نے سلورر تیار کیا، ایک AI ٹول جو ڈیپ فیکس کو روکنے اور ذاتی ڈیٹا کی حفاظت میں مدد کرتا ہے، جو سائبر کرائم سے لڑنے کے لیے آزمائشی مرحلے میں ہے۔

سڈنی میں وی این اے کے نمائندے کے مطابق، موناش یونیورسٹی اور آسٹریلوی فیڈرل پولیس (اے ایف پی) ایک نیا مصنوعی ذہانت (AI) ٹول تیار کرنے میں تعاون کر رہے ہیں تاکہ مجرموں کو AI کا استعمال کرتے ہوئے نقصان دہ ڈیپ فیک تصاویر اور بچوں کے ساتھ بدسلوکی کا مواد تیار کرنے سے روکا جا سکے۔

سلورر نامی یہ ٹول اے آئی لیب فار لا انفورسمنٹ اینڈ کمیونٹی سیفٹی (AiLECS) کا ایک پروڈکٹ ہے، جو AFP اور موناش یونیورسٹی کے درمیان ایک اسٹریٹجک تحقیقی تعاون ہے جو AI کا اطلاق قانون کے نفاذ اور سیکورٹی کے پیچیدہ چیلنجوں پر ہوتا ہے۔ فی الحال اپنے پائلٹ مرحلے میں، یہ ٹول موناش یونیورسٹی کی پی ایچ ڈی کی طالبہ الزبتھ پیری کی قیادت میں تیار کیا جا رہا ہے۔

موناش یونیورسٹی کے مطابق، پروجیکٹ اس نئے ٹول میں بنیادی تکنیک کے طور پر "ڈیٹا پوائزننگ" نامی تکنیک کا استعمال کرتا ہے۔ اس تکنیک میں آن لائن ماخذ کے ڈیٹا کو باریک بینی سے تبدیل کرنا شامل ہے، جس سے AI اور مشین لرننگ (ML) ماڈلز کے لیے تصاویر یا ویڈیوز بنانا، ہیرا پھیری کرنا اور غلط استعمال کرنا زیادہ مشکل ہو جاتا ہے۔

چونکہ AI ٹولز کو بڑی مقدار میں سورس ڈیٹا کی ضرورت ہوتی ہے، اس لیے ڈیٹا پوائزننگ ماڈل کو غلط، ترچھی، یا خراب نتائج پیدا کرنے کا سبب بنتی ہے، جس سے مجرموں کی طرف سے بنائی گئی جعلی تصاویر یا ویڈیوز کا پتہ لگانا آسان ہو جاتا ہے۔

پی ایچ ڈی کے طالب علم پیری بتاتے ہیں کہ صارفین تصاویر کو سوشل میڈیا یا انٹرنیٹ پر اپ لوڈ کرنے سے پہلے ان میں ترمیم کرنے کے لیے سلور کا استعمال کر سکتے ہیں۔ یہ AI ماڈل کو بے وقوف بنانے کے لیے پکسلز کو تبدیل کر دے گا، جس سے ان کا آؤٹ پٹ مسخ ہو جائے گا، "مسخ" یا مکمل طور پر ناقابل شناخت ہو جائے گا۔

ایسوسی ایٹ پروفیسر کیمبل ولسن - AiLECS کے شریک ڈائریکٹر اور ڈیجیٹل فرانزک ماہر - نے کہا کہ اوپن سورس ٹیکنالوجی کا استعمال کرتے ہوئے جعلی اور بدنیتی پر مبنی تصاویر بنانا اس کے استعمال میں آسانی کی وجہ سے ایک سنگین مسئلہ بنتا جا رہا ہے۔

AFP نے AI سے پیدا ہونے والے بچوں کے ساتھ بدسلوکی کے مواد میں اضافے کی دستاویز کی ہے، کیونکہ مجرم بڑی مقدار میں جعلی پورنوگرافی آن لائن بنانے اور شیئر کرنے کے لیے ٹیکنالوجی کا فائدہ اٹھاتے ہیں۔

موناش یونیورسٹی نے کہا کہ سلور پراجیکٹ کا مجموعی ہدف آسٹریلیائی باشندوں کے لیے استعمال میں آسان ٹیکنالوجی تیار کرنا ہے جو سوشل میڈیا پر اپنے ذاتی ڈیٹا کی حفاظت کرنا چاہتے ہیں۔ ٹول کے ایک پائلٹ ورژن پر فی الحال AFP./ میں اندرونی استعمال کے لیے غور کیا جا رہا ہے۔

(TTXVN/Vietnam+)

ماخذ: https://www.vietnamplus.vn/cong-cu-ai-moi-cua-australia-chong-hinh-anh-deepfake-doc-hai-post1076017.vnp