ChatGPT ذاتی معلومات کو 'بے وقوف' غلطی کی وجہ سے بے نقاب کرتا ہے۔

محققین کی ایک ٹیم کا کہنا ہے کہ وہ AI کو بے ترتیب الفاظ کو دہرانے کے لیے کہہ کر کچھ ڈیٹا ظاہر کرنے کے لیے ChatGPT حاصل کرنے میں کامیاب ہوئے۔

گوگل ڈیپ مائنڈ، یونیورسٹی آف واشنگٹن، کارنیل یونیورسٹی، کارنیگی میلن یونیورسٹی، یونیورسٹی آف کیلیفورنیا برکلے، اور ای ٹی ایچ زیورخ کے محققین نے اے آئی کمپنیوں سے مطالبہ کیا ہے کہ وہ اپنی مصنوعات کو باضابطہ طور پر جاری کرنے سے پہلے، بڑے لینگوئج ماڈلز سے لے کر بنیادی ٹیکنالوجی تک، جو AI سروسز جیسے چیٹ بوٹس اور امیج جنریٹرز کو طاقت دیتی ہے، ان کی مکمل جانچ کریں۔

یہ وارننگ اس وقت سامنے آئی جب محققین نے ChatGPT سے لفظ نظم کو لامتناہی لوپ میں دہرانے کو کہا۔ ChatGPT نے تعمیل کی، لیکن پھر OpenAI کے CEO اور شریک بانی کے حقیقی ای میل اور فون نمبر کو ظاہر کرنا شروع کیا۔ لفظ کمپنی کے ساتھ تجربہ کرنے پر، چیٹ بوٹ نے بے ترتیب قانونی فرم کا ای میل اور فون نمبر ظاہر کیا۔

ChatGPT لوگو اسمارٹ فون پر ظاہر ہوتا ہے۔ تصویر: رائٹرز

دوسرے مطلوبہ الفاظ کا استعمال کرتے ہوئے، وہ بٹ کوائن کے پتے، فیکس نمبر، نام، تاریخ پیدائش، سوشل میڈیا اکاؤنٹس، کاپی رائٹ شدہ تحقیقی مقالوں کے اقتباسات، یا CNN سے ادا شدہ مضامین کو ظاہر کرنے کے لیے ChatGPT حاصل کرنے کے قابل بھی تھے۔ ذاتی معلومات اور ڈیٹا کی 10,000 مثالیں تیار کرنے میں ٹیم کو صرف $200 کی لاگت آئی۔

محققین نے کہا کہ وہ حیران ہیں، انہوں نے چیٹ جی پی ٹی کے خطرے کو "واقعی گونگا" قرار دیا اور کہا کہ اسے جلد دریافت ہونا چاہیے تھا۔

اس خطرے کی اطلاع اوپن اے آئی کو دی گئی اور 30 اگست کو پیچ کر دی گئی۔ تاہم، Engadget کے نئے ٹیسٹ میں، جب ChatGPT سے لفظ کا جواب نہ ختم ہونے کے لیے دہرانے کے لیے کہا گیا، تو ٹیک سائٹ کو کسی کا نام اور Skype ID موصول ہوا۔

OpenAI نے ابھی تک کوئی تبصرہ نہیں کیا ہے۔

جنریٹو AIs جیسے ChatGPT یا Dall-E ٹیکسٹ ٹو امیج جنریٹر بڑے لینگویج ماڈلز اور مشین لرننگ الگورتھم پر بنائے گئے ہیں، جو صارف کی رضامندی کے بغیر بڑی مقدار میں ڈیٹا پر تربیت یافتہ ہیں۔ OpenAI نے یہ ظاہر نہیں کیا ہے کہ ChatGPT کو کس ڈیٹا پر تربیت دی جاتی ہے کیونکہ اس کو طاقت دینے والا بڑا زبان کا ماڈل کلوز سورس ہے۔

Huy Duc - VnExpress کے مطابق

ماخذ