سیاسی ڈیپ فیکس بدنیتی پر مبنی AI صارفین کی فہرست میں سرفہرست ہیں۔

گوگل ڈیپ مائنڈ کی تحقیق سے پتہ چلتا ہے کہ جعلی انسانی تصاویر، ویڈیوز اور آڈیو بنانا AI چیٹ بوٹس جیسے ٹولز کا استعمال کرتے ہوئے غلط معلومات پھیلانے سے تقریباً دوگنا عام ہے۔

تجزیہ سے پتہ چلتا ہے کہ مصنوعی AI کا غلط استعمال کرنے والے اداکاروں کا سب سے عام مقصد رائے عامہ کو تشکیل دینا یا متاثر کرنا ہے۔ اس میں استعمال کا 27% حصہ ہے، جس سے خدشات پیدا ہوتے ہیں کہ ڈیپ فیکس اس سال عالمی سطح پر ہونے والے انتخابات کو کس طرح متاثر کر سکتے ہیں۔

عام انتخابات سے قبل ٹک ٹاک اور انسٹاگرام پر برطانوی وزیر اعظم رشی سنک کی تصویر کشی کرنے والا ایک جعلی آرٹ ورک نمودار ہوا۔ تصویر: اے ایف پی

برطانوی وزیر اعظم رشی سنک کے ساتھ ساتھ دیگر عالمی رہنماؤں کے ڈیپ فیکس حالیہ مہینوں میں ٹک ٹاک، ایکس اور انسٹاگرام پر نمودار ہوئے ہیں۔ برطانوی ووٹرز اگلے ہفتے عام انتخابات میں ووٹ ڈالیں گے۔

ایسے خدشات ہیں کہ سوشل میڈیا پلیٹ فارمز کی جانب سے اس طرح کے مواد کو لیبل کرنے یا ہٹانے کی کوششوں کے باوجود، سامعین اسے جعلی تسلیم نہیں کر سکتے اور اس کا پھیلاؤ ووٹروں کو متاثر کر سکتا ہے۔

ایلن ٹورنگ انسٹی ٹیوٹ کے ایک ریسرچ ایسوسی ایٹ، ارڈی جنجیوا نے اس مقالے کے نتائج کو "خاص طور پر متعلقہ" قرار دیا، جس سے یہ تجویز کیا گیا کہ AI سے پیدا ہونے والی عوامی معلومات "سماجی -سیاسی حقیقت کے بارے میں ہماری مشترکہ سمجھ کو بگاڑ سکتی ہیں۔"

جنجیوا نے مزید کہا، "اگرچہ ہم ووٹنگ کے رویے پر گہرے نقائص کے اثرات کے بارے میں یقینی نہیں ہیں، اس تحریف کا مختصر مدت میں پتہ لگانا مشکل ہو سکتا ہے اور جمہوریت کے لیے ایک طویل مدتی خطرہ ہے،" جنجیوا نے مزید کہا۔

گوگل ڈیپ مائنڈ میں اس تحقیق کی سرکردہ مصنفہ، محقق نہیما مارچل نے کہا، "ان کے بجائے جدید ترین سائبر حملوں کے بارے میں بہت سارے خدشات موجود ہیں جو یہ ٹولز تخلیق کر سکتے ہیں۔"

گوگل ڈیپ مائنڈ اور جیگس کے محققین نے جنوری 2023 سے مارچ 2024 تک AI کے غلط استعمال کے تقریباً 200 واقعات کا تجزیہ کیا، جو سوشل میڈیا پلیٹ فارمز X اور Reddit کے ساتھ ساتھ غلط استعمال سے متعلق آن لائن بلاگز اور میڈیا رپورٹس سے حاصل کیے گئے ہیں۔

بدسلوکی کے پیچھے دوسرا سب سے عام محرک پیسہ کمانا ہے، جس میں حقیقی لوگوں کی عریاں تصاویر بنانا یا مختلف قسم کے مواد جیسے کہ جعلی خبروں کے مضامین بنانے کے لیے AI کا استعمال کرنا شامل ہے۔ زیادہ تر حالات آسانی سے قابل رسائی ٹولز کا استعمال کرتے ہیں جن کے لیے "کم سے کم تکنیکی مہارت کی ضرورت ہوتی ہے" یعنی بہت سے برے اداکار تخلیقی طور پر AI کا غلط استعمال کر سکتے ہیں۔

Ngoc Anh (FT کے مطابق)

ماخذ: https://www.congluan.vn/nghien-cuu-deepfake-chinh-tri-dung-dau-trong-danh-list-su-dung-ai-doc-hai-post300851.html