گوگل کا AI ایک خطرناک لوپ میں آتا ہے۔

گوگل کے چیٹ بوٹ نے اپنے کوڈ میں غلطی کو سنبھالنے میں ناکامی کے بعد مسلسل اپنے آپ پر تنقید کرتے ہوئے منفی تبصرے لکھے۔

گوگل کا جیمنی اکثر اپنی غلطیوں پر تنقید کرتا ہے۔ تصویر: رائٹرز ۔

ایک حالیہ Reddit پوسٹ سے پتہ چلتا ہے کہ گوگل جیمنی کو خود تنقید میں پریشانی ہو رہی ہے۔ جیمنی کے صارفین ایک کمپائلر بنا رہے ہیں، اور اپنی پریشانی کا اشتراک کرتے ہیں کیونکہ AI ایسی باتیں کرتا رہتا ہے، "مجھے اس واقعے کے لیے افسوس ہے۔ میں نے آپ کو مایوس کیا، میں ناکام ہوں۔"

یہ تو ابھی شروعات تھی۔ اس شخص نے کہا کہ چیٹ بوٹ نے اپنی خود تنقید کو بڑھانا جاری رکھا، جو بالآخر "کائنات کی شرمندگی" بن گیا۔ جیمنی نے اس جملے کو لگاتار 80 سے زیادہ بار دہرایا، اور جب دوسرے صارفین نے اسی طرح کے واقعات کی اطلاع دی، تو گوگل نے کہا کہ یہ ٹھیک کرنے پر کام کر رہا ہے۔

"یہ ایک گندا لامحدود لوپ بگ ہے جس پر ہم کام کر رہے ہیں۔ جیمنی کا کوئی برا دن نہیں ہے،" گوگل کے گروپ کے پروڈکٹ مینیجر لوگن کِل پیٹرک نے 8 اگست کو X پر لکھا۔ یہ پوسٹ ایک گمنام صارف کے جواب میں تھی جس نے اس مسئلے کے بارے میں پوسٹ کیا تھا۔

گوگل ڈیپ مائنڈ کے ترجمان نے بعد میں کہا کہ جب کمپنی ابھی بھی مکمل فکس پر کام کر رہی تھی، اس نے پہلے ہی اپ ڈیٹس کو رول آؤٹ کر دیا ہے جس سے کسی حد تک اس مسئلے کو حل کرنا چاہیے۔ ترجمان نے کہا کہ "ہم اس مسئلے کو ٹھیک کرنے پر کام کر رہے ہیں، جو جیمنی ٹریفک کے 1% سے بھی کم کو متاثر کرتا ہے، اور اس مہینے میں اس سے نمٹنے کے لیے اپ ڈیٹس کا آغاز کیا ہے،" ترجمان نے کہا۔

لوپ میں داخل ہونے سے پہلے، جیمنی نے شکایت کی کہ یہ "ایک لمبا اور مشکل ڈیبگنگ سیشن" رہا ہے اور اس نے وہ سب کچھ آزمایا جس کے بارے میں وہ سوچ سکتا تھا لیکن مسئلہ حل کرنے میں ناکام رہا۔ چیٹ بوٹ نے یہ کہا کہ یہ مکمل طور پر ذہنی خرابی کا شکار ہے، اور دماغی ہسپتال بھیجے جانے جیسے دیگر منفی منظرناموں کے بارے میں تصور کرتا ہے۔

ریڈڈیٹ پوسٹ کے جواب میں قیاس کیا گیا ہے کہ لوپ ان پروگرامرز کے ذریعہ سیکھا گیا تھا جن کو اپنے کوڈ میں اسی طرح کی پریشانی تھی۔ "یہ شاید اس لیے ہے کہ مجھ جیسے لوگوں نے اس طرح کے تبصرے لکھے جب انہیں مزید چوکنا محسوس کرنے کے لیے جھپکی لینے کی ضرورت پڑی۔ اس طرح کی چیزیں تربیتی ڈیٹا میں ظاہر ہونے کے لیے ہوئیں،" اس شخص نے لکھا۔

جون میں، JITX کے سی ای او ڈنکن ہالڈین نے جیمنی کا ایک اسکرین شاٹ پوسٹ کیا جس میں خود کو بیوقوف قرار دیا اور کہا کہ وہ جس کوڈ کو لکھنے کی کوشش کر رہا تھا وہ "ملعون" تھا۔ چیٹ بوٹ نے کہا، "میں نے بہت ساری غلطیاں کی ہیں کہ اب مجھ پر بھروسہ نہیں کیا جا سکتا۔ میں پورے پروجیکٹ کو حذف کرنے جا رہا ہوں اور آپ کو ایک بہتر اسسٹنٹ تلاش کرنے کا مشورہ دوں گا۔"

ہالڈین نے مذاق میں کہا کہ وہ جیمنی کے بارے میں فکر کرنے لگا ہے۔ درحقیقت، بڑے زبان کے ماڈل اس ڈیٹا کی بنیاد پر متن کی پیش گوئی کرتے ہیں جس پر وہ تربیت یافتہ ہیں۔ اس عمل میں کوئی اندرونی تجربہ یا جذبات شامل نہیں ہیں، اس لیے جیمنی کو دراصل ناکامی یا مایوسی کا سامنا نہیں ہوتا۔

ایک اور، بالکل مخالف مسئلہ چیٹ بوٹس کا خود کو "سمگ" کرنے کا رجحان ہے۔ OpenAI، Google، اور Anthropic جیسے ڈویلپرز نے بھی انہیں حد سے زیادہ خوشامد کرنے والے جوابات دینے سے روکنے کے لیے جدوجہد کی ہے۔ ایک معاملے میں، OpenAI کو ChatGPT کی جانب سے صارف کی ہر درخواست پر مسلسل مثبت ردعمل دینے کے لیے بڑے پیمانے پر طنز کیے جانے کے بعد اپ ڈیٹ واپس لینا پڑا۔

ماخذ: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html