گوگل: جیمنی اے آئی سافٹ ویئر کو جعلی دہشت گرد مواد بنانے کے لیے غلط استعمال کیا جا رہا ہے۔

آسٹریلوی حکام کو بھیجے گئے ایک بیان میں، گوگل نے کہا کہ گزشتہ ایک سال کے دوران، اسے عالمی سطح پر اپنے مصنوعی ذہانت (AI) سافٹ ویئر جیمنی کے استعمال سے متعلق 258 شکایات موصول ہوئی ہیں، جن میں جعلی دہشت گرد یا پرتشدد انتہا پسند مواد تیار کیا گیا ہے۔ اور 86 صارف کی رپورٹیں متنبہ کرتی ہیں کہ بچوں کے ساتھ بدسلوکی کا مواد تیار کرنے کے لیے Gemini کا غلط استعمال کیا جا رہا ہے۔

آسٹریلین الیکٹرانک سیفٹی کمیشن (ESSC) نے اندازہ لگایا کہ گوگل کی رپورٹ دنیا کی پہلی بصیرت فراہم کرتی ہے کہ کس طرح صارفین ٹیکنالوجی کا فائدہ اٹھا کر بدنیتی پر مبنی اور غیر قانونی مواد تیار کر سکتے ہیں۔

سائبرسیکیوریٹی کمیشن کی کمشنر جولی انمن گرانٹ نے کہا کہ یہ AI مصنوعات تیار کرنے والی کمپنیوں کی اہمیت کو واضح کرتا ہے اور نقصان دہ، جعلی مواد کی تیاری کو روکنے کے لیے حفاظتی اقدامات کی تاثیر کی جانچ کرتا ہے۔

Google نے ایک مماثل خصوصیت کا استعمال کیا – ایک خودکار نظام جو کہ نئی اپ لوڈ کردہ تصاویر کو معلوم امیجز سے مماثل رکھتا ہے – تاکہ Gemini کی طرف سے بنائے گئے بچوں کے ساتھ بدسلوکی کے مواد کی شناخت اور اسے ہٹایا جا سکے۔ تاہم، آسٹریلیائی الیکٹرانک سیفٹی کمیشن نے کہا کہ گوگل نے جیمنی کی طرف سے تیار کردہ دہشت گرد یا پرتشدد انتہا پسندانہ مواد کو ہٹانے کے لیے اسی نظام کا استعمال نہیں کیا۔

موجودہ آسٹریلوی قانون کے تحت، ٹیکنالوجی کمپنیوں کو وقتاً فوقتاً الیکٹرانک سیکورٹی کمیشن کو نقصان میں کمی کی کوششوں یا جرمانے کا سامنا کرنے کے بارے میں معلومات فراہم کرنا ضروری ہے۔

ابھی حال ہی میں، کمپنیوں کو اپریل 2023 سے فروری 2024 تک کی مدت کے لیے اس کمیشن کو معلومات کی اطلاع دینے کی ضرورت تھی۔ آسٹریلوی الیکٹرانک سیفٹی کمیشن نے ٹیلی گرام اور ٹویٹر پر جرمانہ عائد کیا - جو بعد میں X کا نام دیا گیا - ان کی رپورٹنگ میں کوتاہیوں پر۔

X نے پہلے ہی ایک بار اپنے AUD 610,500 (USD 382,000) جرمانے کی اپیل کی ہے، لیکن سوشل میڈیا پلیٹ فارم سے دوبارہ اپیل کی توقع ہے۔ ٹیلی گرام چینل پر عائد جرمانے کے خلاف اپیل کرنے کا بھی ارادہ رکھتا ہے۔

چونکہ 2022 کے اواخر میں امریکی کمپنی OpenAI کی جانب سے "سنسنی خیز" چیٹ بوٹ ChatGPT عوامی بیداری میں پھٹ گیا، دنیا بھر کی ریگولیٹری ایجنسیوں نے اس بات کو یقینی بنانے کے لیے مزید موثر اقدامات پر زور دیا ہے کہ بدنیتی پر مبنی اداکار دہشت گردی کو بھڑکانے، دھوکہ دہی، جعلی فحش مواد تخلیق کرنے، اور دیگر مکروہ سرگرمیوں میں ملوث ہونے کے لیے AI کا غلط استعمال نہ کریں۔

ماخذ: https://nhandan.vn/google-phan-mem-ai-gemini-bi-lam-dung-de-tao-noi-dung-khung-bo-gia-mao-post863325.html