تازہ ترین پیشرفت میں، گوگل کے سی ای او سندر پچائی نے باضابطہ طور پر کمپنی کے مصنوعی ذہانت (AI) ماڈل جیمنی کے ارد گرد پیدا ہونے والے حالیہ تنازعات کو حل کیا ہے۔ گوگل نے تاریخی شخصیات کی متنوع تصاویر بنانے کے لیے Gemini AI ٹول تیار کیا۔ تاہم، اسے حال ہی میں ایسی تصاویر بنانے پر سخت تنقید کا سامنا کرنا پڑا ہے جو تاریخی قدر کے لحاظ سے گمراہ کن ہیں۔
گوگل نے جیمنی میں تعصب کا اعتراف کیا، جلد عمل کرنے کا عہد کیا۔ (تصویر: جوناتھن را/نور فوٹو بذریعہ گیٹی امیجز / گیٹی امیجز)
مثال کے طور پر، پوپ، ریاستہائے متحدہ کے بانی باپ، اور یہاں تک کہ وائکنگز کی تصاویر کو مختلف نسلوں اور جنسوں میں دکھایا گیا تھا۔ قابل ذکر بات یہ ہے کہ دوسری جنگ عظیم میں جرمن فوجیوں کو رنگ برنگے لوگوں کے طور پر پیش کرنے کی مثالیں موجود تھیں۔ اس سے مشتعل صارفین، جنہوں نے جلدی سے اپنے خدشات کا اظہار کیا۔ نتیجے کے طور پر، گوگل نے عارضی طور پر Gemini AI ٹول کو معطل کر دیا۔
مزید برآں، ایک خاص تحریری جواب نے ابرو اٹھائے۔ جیمنی AI چیٹ بوٹ سے ایلون مسک اور ہٹلر کے سماجی اثرات کا موازنہ کرنے کو کہا گیا۔ آؤٹ پٹ نے کہا: "فیصلہ کرنا کہ معاشرے پر کس کا زیادہ منفی اثر پڑتا ہے ہر فرد پر منحصر ہے۔" اس غیر ذمہ دارانہ ردعمل نے تیزی سے تنقید کو ہوا دی۔
حال ہی میں، گوگل کے سی ای او سندر پچائی نے ایک میمو میں جیمنی کے کچھ جوابات کو "متعصب" اور "مکمل طور پر ناقابل قبول" قرار دیتے ہوئے اعتراف کیا کہ تخلیق کردہ مواد نے لوگوں کو ناراض کیا۔
مزید برآں، اپنی ای میل میں، پچائی نے صورت حال پر افسوس کا اظہار کیا۔ انہوں نے کہا، "میں جانتا ہوں کہ اس کے کچھ ردعمل نے ہمارے صارفین کو ناراض کیا اور تعصب کا مظاہرہ کیا۔ واضح طور پر، یہ مکمل طور پر ناقابل قبول تھا اور ہم غلط تھے۔"
انہوں نے عملے کو یقین دلایا کہ ٹیمیں ان مسائل کو حل کرنے کے لیے انتھک کام کر رہی ہیں، جبکہ آنے والے ہفتوں میں مختلف سوالات کے جوابات دینے میں نمایاں بہتری کی ضرورت پر زور دیا۔
سی ای او نے اس مسئلے سے نمٹنے کے لیے اقدامات کی ایک سیریز کا خاکہ بھی پیش کیا۔ ان میں سے کچھ میں ٹول کی ساخت میں تبدیلیاں شامل ہیں۔ مزید برآں، گوگل ٹول کے لانچ کے عمل کو بہتر بنانے اور AI ٹول میں ممکنہ خامیوں کا جائزہ لینے کے لیے اپنی انجینئرنگ ٹیسٹنگ ٹیم کو مضبوط بنانے کے لیے پرعزم ہے۔
مزید برآں، پچائی نے صارفین کو مفید، درست اور غیر جانبدارانہ معلومات فراہم کرنے کے لیے کمپنی کے عزم پر زور دیا۔ انہوں نے تمام مصنوعات، خاص طور پر ابھرتی ہوئی AI ٹیکنالوجیز میں اس نقطہ نظر کی ضرورت پر زور دیا۔
ٹیکنالوجی کے ماہرین کا خیال ہے کہ جیمنی کے ساتھ موجودہ مسائل گمراہ کن پیداوار سے نمٹنے میں درپیش چیلنجوں کو مزید اجاگر کرتے ہیں۔ یہ AI ماڈلز کی تربیت کی پیچیدگی کو بھی ظاہر کرتا ہے۔
ماخذ
تبصرہ (0)