ٹیک انڈسٹری AI سے تیار کردہ تصاویر کی شناخت کرنا چاہتی ہے۔

Truepic کے سی ای او جیفری میک گریگر نے کہا کہ یہ واقعہ "آئس برگ" کا محض ایک سرہ تھا۔ میک گریگر نے کہا کہ سوشل میڈیا پر مزید AI سے تیار کردہ مواد ہوگا، اور ہم اس کے لیے تیار نہیں ہیں۔

CNN کے مطابق Truepic اس مسئلے کو ٹیکنالوجی فراہم کر کے حل کرنا چاہتی ہے جو Truepic Lens کے ذریعے تخلیق کے وقت میڈیا کی تصدیق کرنے کا دعویٰ کرتی ہے۔ ڈیٹا اکٹھا کرنے والی ایپ صارفین کو تصویر بنانے کے لیے استعمال ہونے والی تاریخ، وقت، مقام اور ڈیوائس بتائے گی اور اس بات کی تصدیق کے لیے ڈیجیٹل دستخط لگائے گی کہ آیا تصویر قدرتی ہے یا AI سے تیار کی گئی ہے۔

پینٹاگون دھماکے کی جعلی تصویر ٹوئٹر پر وائرل

2015 میں قائم ہونے والی مائیکروسافٹ کی حمایت یافتہ کمپنی Truepic نے کہا کہ کمپنی این جی اوز سے لے کر میڈیا کمپنیوں تک دلچسپی دیکھ رہی ہے، یہاں تک کہ بیمہ کنندگان دعوؤں کے جائز ہونے کی تصدیق کر رہے ہیں۔

میک گریگر نے کہا کہ جب ہر چیز کو جعلی بنایا جا سکتا ہے، جب مصنوعی ذہانت معیار اور رسائی میں اپنے عروج پر پہنچ گئی ہے، ہمیں اب یہ نہیں معلوم کہ آن لائن حقیقت کیا ہے۔

Truepic جیسی ٹیک کمپنیاں برسوں سے آن لائن غلط معلومات کا مقابلہ کرنے کے لیے کام کر رہی ہیں۔ لیکن AI ٹولز کی ایک نئی نسل کے عروج نے جو صارف کے حکموں سے تصاویر اور متن تیار کر سکتے ہیں، فوری طور پر اضافہ کر دیا ہے۔ اس سال کے شروع میں پوپ فرانسس کی بیلنسیگا ڈاؤن جیکٹ میں اور سابق امریکی صدر ڈونلڈ ٹرمپ کی گرفتاری کی جعلی تصاویر بڑے پیمانے پر شیئر کی گئیں۔ دونوں واقعات نے لاکھوں لوگوں کو AI کے ممکنہ خطرات سے پریشان کر دیا ہے۔

کچھ قانون ساز اب ٹیک کمپنیوں سے AI سے تیار کردہ مواد کو لیبل لگا کر اس مسئلے کو حل کرنے کا مطالبہ کر رہے ہیں۔ یوروپی کمیشن کی نائب صدر ویرا جورووا نے کہا کہ گوگل، میٹا، مائیکروسافٹ اور ٹک ٹاک سمیت کمپنیاں غلط معلومات کا مقابلہ کرنے کے لیے یورپی یونین کے رضاکارانہ ضابطہ اخلاق میں شامل ہوگئی ہیں۔

سٹارٹ اپس اور ٹیک جنات کی بڑھتی ہوئی تعداد، جن میں کچھ ایسے ہیں جو اپنی مصنوعات میں جنریٹو AI کو نافذ کر رہے ہیں، لوگوں کو یہ تعین کرنے میں مدد کرنے کے لیے معیارات اور حل نافذ کرنے کی کوشش کر رہے ہیں کہ آیا کوئی تصویر یا ویڈیو AI کے ساتھ بنائی گئی تھی۔

لیکن جیسا کہ AI ٹیکنالوجی انسانوں کے مقابلے میں تیزی سے ترقی کر سکتی ہے، یہ واضح نہیں ہے کہ آیا یہ حل اس مسئلے کو مکمل طور پر حل کر سکتے ہیں۔ یہاں تک کہ OpenAI، Dall-E اور ChatGPT کے پیچھے والی کمپنی نے اعتراف کیا ہے کہ AI سے تیار کردہ تحریر کا پتہ لگانے میں مدد کرنے کے لیے اس کی اپنی کوششیں نامکمل ہیں۔

حل تیار کرنے والی کمپنیاں مسئلے کو حل کرنے کے لیے دو طریقے اختیار کر رہی ہیں۔ سب سے پہلے AI سے تیار کردہ تصاویر کو آن لائن بنانے اور شیئر کرنے کے بعد ان کی شناخت کے لیے پروگرام تیار کرنے پر انحصار کرتا ہے۔ دوسرا ڈیجیٹل دستخط کی ایک قسم کے ساتھ ایک تصویر کو اصلی یا AI سے تیار کردہ کے طور پر نشان زد کرنے پر مرکوز ہے۔

ریئلٹی ڈیفنڈر اور Hive Moderation پہلے کام کر رہے ہیں۔ اپنے پلیٹ فارم کے ساتھ، صارفین اسکین کرنے کے لیے تصاویر اپ لوڈ کر سکتے ہیں اور پھر ایک تجزیہ حاصل کر سکتے ہیں جو اس بات کا فیصد دکھاتا ہے کہ تصویر اصلی ہے یا AI سے تیار کی گئی ہے۔

ریئلٹی ڈیفنڈر کا کہنا ہے کہ وہ AI سے تیار کردہ ویڈیو، آڈیو اور تصاویر کا پتہ لگانے کے لیے ملکیتی ڈیپ فیک اور جنریٹیو مواد فنگر پرنٹنگ ٹیکنالوجی کا استعمال کرتا ہے۔ کمپنی کی طرف سے فراہم کردہ ایک مثال میں، ریئلٹی ڈیفنڈر نے ٹام کروز کی ایک ڈیپ فیک تصویر دکھائی جو 53 فیصد "مشکوک" تھی کیونکہ تصویر میں موجود شخص کا چہرہ مسخ شدہ تھا جو کہ ہیرا پھیری والی تصاویر میں عام ہے۔

یہ خدمات مفت اور ادا شدہ ورژن پیش کرتی ہیں۔ Hive Moderation کا کہنا ہے کہ یہ فی 1,000 تصاویر $1.50 چارج کرتا ہے۔ Realty Defender کا کہنا ہے کہ اس کی قیمتیں مختلف عوامل کی بنیاد پر مختلف ہو سکتی ہیں، ایسے معاملات میں جہاں کلائنٹس کو کمپنی کی مہارت اور مدد کی ضرورت ہوتی ہے۔ ریئلٹی ڈیفنڈر کے سی ای او بین کولمین کا کہنا ہے کہ خطرہ ہر ماہ دوگنا ہو رہا ہے کیونکہ کوئی بھی AI ٹولز کا استعمال کرتے ہوئے جعلی تصاویر بنا سکتا ہے۔

کئی دوسری کمپنیاں تصاویر پر ایک قسم کا لیبل شامل کرنے پر کام کر رہی ہیں تاکہ تصدیق کی جا سکے کہ آیا وہ حقیقی ہیں یا AI سے تیار کردہ۔ اب تک، یہ کوشش بڑی حد تک مواد کی صداقت اور اصلیت اتحاد (C2PA) کے ذریعے چلائی گئی ہے۔

C2PA کی بنیاد 2021 میں ڈیجیٹل میڈیا کی اصلیت اور تاریخ کی تصدیق کے لیے ایک تکنیکی معیار بنانے کے لیے رکھی گئی تھی، جس میں Adobe's Content Authentication Initiative (CAI) اور Project Origin کو ملا کر، Microsoft اور BBC کی قیادت میں، ڈیجیٹل خبروں میں غلط معلومات کا مقابلہ کرنے پر توجہ دی گئی۔ C2PA میں شامل دیگر کمپنیوں میں Truepic، Intel اور Sony شامل ہیں۔

C2PA کے اصولوں کی بنیاد پر، CAI کمپنیوں کے لیے مواد کی اسناد یا میٹا ڈیٹا بنانے کے لیے اوپن سورس ٹولز جاری کرے گا جس میں تصاویر کے بارے میں معلومات شامل ہوں۔ CAI کی ویب سائٹ کے مطابق، یہ تخلیق کاروں کو شفاف طریقے سے اس بارے میں تفصیلات شیئر کرنے کی اجازت دے گا کہ انہوں نے تصویر کیسے بنائی۔ اس طرح، آخری صارفین اس کے ارد گرد کے سیاق و سباق تک رسائی حاصل کر سکتے ہیں کہ کس نے، کیا، اور کس طرح تصویر کو تبدیل کیا گیا — اور پھر خود فیصلہ کریں کہ تصویر کتنی مستند ہے۔

بہت سی کمپنیاں پہلے ہی C2PA سٹینڈرڈ اور CAI ٹولز کو اپنی ایپلی کیشنز میں ضم کر چکی ہیں۔ Adobe’s Firefly، ایک نیا AI امیجنگ ٹول جو فوٹوشاپ میں شامل کیا گیا ہے، اپنے مواد کی اسناد کی خصوصیت کے ذریعے C2PA معیار کی تعمیل کرتا ہے۔ مائیکروسافٹ نے یہ بھی اعلان کیا کہ بنگ امیج کریٹر اور مائیکروسافٹ ڈیزائنر کے ساتھ بنائی گئی تصاویر اور ویڈیوز آنے والے مہینوں میں کرپٹوگرافک دستخط لے کر جائیں گی۔

مئی میں، گوگل نے "اس تصویر کے بارے میں" فیچر کا اعلان کیا جو صارفین کو یہ دیکھنے کی اجازت دیتا ہے کہ گوگل پر کوئی تصویر پہلی بار کب ظاہر ہوئی اور اسے کہاں دیکھا جا سکتا ہے۔ سرچ کمپنی نے یہ بھی اعلان کیا کہ اگر گوگل کی AI سے تیار کردہ ہر تصویر کسی اور ویب سائٹ یا پلیٹ فارم پر پائی جاتی ہے تو "سیاق و سباق کو شامل کرنے" کے لیے اصل فائل میں مارک اپ لے کر جائے گی۔

اگرچہ ٹیک کمپنیاں AI سے پیدا ہونے والی تصویروں اور ڈیجیٹل میڈیا کی سالمیت کے بارے میں خدشات کو دور کرنے کی کوشش کر رہی ہیں، اس شعبے کے ماہرین اس بات پر زور دیتے ہیں کہ کاروبار کو اس مسئلے کو حل کرنے کے لیے حکومتوں کے ساتھ مل کر کام کرنے کی ضرورت ہوگی۔ اس کے باوجود ٹیک کمپنیاں خطرات کے باوجود AI تیار کرنے کی دوڑ لگا رہی ہیں۔

ماخذ لنک