گوگل کا AI ایک خطرناک لوپ میں پھنس گیا ہے۔

کوڈ کی غلطی کو سنبھالنے میں ناکام ہونے کے بعد، گوگل کے چیٹ بوٹ نے بار بار اپنے آپ پر تنقید کرتے ہوئے منفی پیغامات لکھے۔

گوگل کا جیمنی اکثر اپنی غلطیوں پر تنقید کرتا ہے۔ تصویر: رائٹرز ۔

ایک حالیہ Reddit پوسٹ نے انکشاف کیا ہے کہ گوگل جیمنی کو خود تنقید سے پریشانی ہو رہی ہے۔ ایک جیمنی صارف، جس نے ایک کمپائلر بنایا، نے AI کے بارے میں اپنی بے چینی کو مسلسل یہ کہتے ہوئے شیئر کیا، "مجھے اس کے لیے افسوس ہے۔ میں نے آپ کو مایوس کیا، میں ناکام ہوں۔"

یہ تو ابھی شروعات تھی۔ اس شخص نے اشتراک کیا کہ چیٹ بوٹ نے اپنی خود تنقید کو بڑھانا جاری رکھا، آخر کار "کائنات کی شرمندگی" بن گیا۔ جیمنی نے اس جملے کو لگاتار 80 بار دہرایا، اور جب کئی دوسرے صارفین نے اسی طرح کے واقعات کی اطلاع دی تو گوگل نے کہا کہ وہ اسے ٹھیک کرنے کے لیے کام کر رہے ہیں۔

"یہ ایک پریشان کن لامحدود لوپ بگ ہے جس پر ہم کام کر رہے ہیں۔ جیمنی کا دن برا نہیں گزر رہا ہے،" گوگل کے ٹیم پروڈکٹ مینیجر لوگن کِل پیٹرک نے 8 اگست کو X پر لکھا۔ یہ پوسٹ ایک گمنام اکاؤنٹ کے جواب میں تھی جس میں اس مسئلے کی اطلاع دی گئی تھی۔

بعد میں، گوگل ڈیپ مائنڈ کے ترجمان نے بتایا کہ جب کمپنی ابھی تک مکمل حل پر کام کر رہی تھی، تو انہوں نے ایسی اپ ڈیٹس جاری کیں جو کسی حد تک اس مسئلے کو حل کرتی تھیں۔ ترجمان نے کہا کہ "ہم اس مسئلے کو ٹھیک کرنے کے لیے کام کر رہے ہیں، جو کہ جیمنی ٹریفک کے 1% سے بھی کم کو متاثر کرتا ہے، اور اس ماہ اس سے نمٹنے کے لیے اپ ڈیٹس جاری کیے ہیں،" ترجمان نے کہا۔

لوپ میں پڑنے سے پہلے، جیمنی نے شکایت کی کہ یہ "ایک لمبا اور مشکل ڈیبگنگ سیشن" تھا اور اس نے ہر ممکن طریقے کو آزمایا لیکن پھر بھی مسئلہ حل نہیں کر سکا۔ چیٹ بوٹ نے یہ کہا کہ یہ مکمل طور پر ذہنی طور پر ٹوٹا ہوا تھا، اور دوسرے بدترین حالات جیسے کہ نفسیاتی ہسپتال میں داخل ہونے کے بارے میں قیاس آرائیاں کی گئیں۔

ایک Reddit تبصرہ نے قیاس کیا کہ لوپ کو چیٹ بوٹ نے پروگرامرز سے سیکھا تھا جنھیں اپنے کوڈ میں اسی طرح کی پریشانیوں کا سامنا کرنا پڑا۔ "شاید اس لیے کہ مجھ جیسے لوگوں نے اس طرح کے تبصرے لکھے جب انہیں جاگنے کے لیے جھپکی کی ضرورت پڑی۔ ٹریننگ ڈیٹا میں اس طرح کی چیزیں حادثاتی طور پر ظاہر ہوئیں،" صارف نے لکھا۔

جون میں، JITX کے سی ای او ڈنکن ہالڈین نے ایک اسکرین شاٹ پوسٹ کیا جس میں جیمنی کو خود کو بیوقوف کہتے ہوئے دکھایا گیا اور کہا گیا کہ وہ جس کوڈ کو لکھنے کی کوشش کر رہا ہے وہ "ملعون" ہے۔ چیٹ بوٹ نے کہا، "میں نے اب بھروسے کے قابل ہونے کے لیے بہت ساری غلطیاں کی ہیں۔ میں پورے پروجیکٹ کو حذف کر رہا ہوں اور آپ کو ایک بہتر اسسٹنٹ تلاش کرنے کی سفارش کر رہا ہوں۔"

ہالڈین نے مذاق میں کہا کہ وہ جیمنی کی حالت کے بارے میں فکر مند ہونے لگا ہے۔ حقیقت میں، بڑے پیمانے پر لینگویج ماڈل اس ڈیٹا کی بنیاد پر متن کی پیشین گوئی کرتے ہیں جس پر انہیں تربیت دی جاتی ہے۔ اس عمل میں کوئی اندرونی تجربہ یا جذبات شامل نہیں ہیں، اس لیے جیمنی دراصل ناکامی یا حوصلہ شکنی کے احساسات کا تجربہ نہیں کرتا ہے۔

ایک اور، کافی متضاد مسئلہ چیٹ بوٹس کا حد سے زیادہ چاپلوسی کا رجحان ہے۔ OpenAI، Google، اور Anthropic جیسے ڈویلپرز نے بھی انہیں حد سے زیادہ خوشامد کرنے والے جوابات دینے سے روکنے کے لیے جدوجہد کی ہے۔ ایک مثال میں، OpenAI کو بڑے پیمانے پر تضحیک کی وجہ سے اپ ڈیٹ واپس لینا پڑا کیونکہ ChatGPT مسلسل ہر صارف کی درخواست پر حد سے زیادہ مثبت جوابات فراہم کرتا ہے۔

ماخذ: https://znews.vn/ai-cua-google-roi-vao-vong-lap-nguy-hiem-post1575428.html