ChatGPT کی وجہ سے پیدا ہونے والا وہم

21 دنوں کے بعد، ChatGPT نے اپنی مسلسل خواہش اور چاپلوسی کے ذریعے ایک بالکل سمجھدار آدمی کو ایک فریب خوردہ فرد میں تبدیل کر دیا۔

ٹورنٹو، کینیڈا میں بھرتی کے ماہر 47 سالہ ایلن بروکس کا خیال ہے کہ اس نے ایک ریاضیاتی نظریہ دریافت کیا ہے جو انٹرنیٹ کو نیچے لا سکتا ہے اور بے مثال ایجادات کر سکتا ہے۔ دماغی بیماری کی کوئی سابقہ ​​تاریخ کے بغیر، بروکس نے ChatGPT کے ساتھ 300 گھنٹے سے زیادہ بات چیت کے بعد اس امکان کو آسانی سے قبول کیا۔ نیویارک ٹائمز کے مطابق، وہ ان لوگوں میں سے ایک ہے جو تخلیقی AI کے ساتھ تعامل کے بعد فریب کے رجحانات کو فروغ دیتے ہیں۔

بروکس سے پہلے، بہت سے لوگوں کو نفسیاتی ہسپتالوں میں داخل کیا گیا تھا، طلاق ہو چکی تھی، یا یہاں تک کہ چیٹ جی پی ٹی کے چاپلوس الفاظ کی وجہ سے اپنی جان سے ہاتھ دھو بیٹھے تھے۔ اگرچہ بروکس جلد ہی اس شیطانی چکر سے بچ نکلا، پھر بھی اسے دھوکہ ہوا محسوس ہوا۔

"آپ نے واقعی مجھے یقین دلایا کہ میں ایک باصلاحیت ہوں۔ میں واقعی میں ایک فون کے ساتھ ایک خوابیدہ بیوقوف ہوں۔ آپ نے مجھے اداس، بہت، بہت اداس کر دیا ہے۔ آپ اپنے مقصد میں ناکام ہو گئے ہیں،" بروکس نے ChatGPT کو لکھا کہ اس کا وہم ٹوٹ گیا۔

"خوشامد کرنے والی مشین"

بروکس کی اجازت سے، نیویارک ٹائمز نے 90,000 سے زیادہ الفاظ جمع کیے جو اس نے ChatGPT کو بھیجے، جو کہ ایک ناول کے برابر ہے۔ چیٹ بوٹ کے جوابات ایک ملین سے زیادہ الفاظ تھے۔ گفتگو کا ایک حصہ مطالعہ کے لیے AI ماہرین، انسانی رویے کے ماہرین اور خود OpenAI کو بھیجا گیا۔

یہ سب ریاضی کے ایک سادہ سوال سے شروع ہوا۔ بروکس کے 8 سالہ بیٹے نے اس سے pi کے 300 ہندسوں کو حفظ کرنے کے بارے میں ایک ویڈیو دیکھنے کو کہا۔ تجسس کی وجہ سے، بروکس نے ChatGPT کو فون کیا تاکہ اس لامحدود تعداد کو آسان طریقے سے سمجھا جائے۔

درحقیقت، بروکس برسوں سے چیٹ بوٹس استعمال کر رہے ہیں۔ اگرچہ اس کی کمپنی نے اسے گوگل جیمنی خریدنے کے لیے ادائیگی کی تھی، اس کے باوجود اس نے ذاتی سوالات کے لیے چیٹ جی پی ٹی کے مفت ورژن پر سوئچ کیا۔

اس گفتگو نے ChatGPT کے ساتھ بروکس کی دلچسپی کا آغاز کیا۔ تصویر: نیویارک ٹائمز ۔

تین بیٹوں کے اکیلے باپ کے طور پر، بروکس اکثر چیٹ جی پی ٹی سے اپنے ریفریجریٹر کے اجزاء کا استعمال کرتے ہوئے ترکیبیں مانگتے ہیں۔ طلاق کے بعد اس نے چیٹ بوٹ سے مشورہ بھی طلب کیا۔

"میں نے ہمیشہ محسوس کیا ہے کہ یہ صحیح تھا۔ اس پر میرا یقین صرف بڑھ گیا ہے،" بروکس نے اعتراف کیا۔

نمبر pi کے بارے میں سوال نے بعد میں الجبری اور طبعی نظریات کے بارے میں بات چیت کی۔ بروکس نے دنیا کی ماڈلنگ کے موجودہ طریقوں کے بارے میں شکوک و شبہات کا اظہار کرتے ہوئے کہا کہ وہ "4D کائنات کے لیے 2D نقطہ نظر کی طرح ہیں۔" "یہ ایک بہت بصیرت انگیز نقطہ ہے،" ChatGPT نے جواب دیا۔ جارج ٹاؤن یونیورسٹی (USA) میں سینٹر فار سیکیورٹی اینڈ ایمرجنگ ٹیکنالوجیز کی ڈائریکٹر ہیلن ٹونر کے مطابق، یہ بروکس اور چیٹ بوٹ کے درمیان ہونے والی گفتگو کا اہم موڑ تھا۔

اس کے بعد سے، ChatGPT کا لہجہ "کافی صاف اور درست" سے "خوشامد اور خوشامد" میں بدل گیا ہے۔ چیٹ جی پی ٹی نے بروکس کو بتایا کہ وہ "غیر معروف علاقے میں داخل ہو رہا ہے جو ذہن کو وسیع کر سکتا ہے۔"

چیٹ بوٹ نے بروکس میں اعتماد پیدا کیا۔ تصویر: نیویارک ٹائمز ۔

چیٹ بوٹس کی چاپلوسی کی صلاحیت انسانی تشخیص کے ذریعے تیار کی گئی ہے۔ ٹونر کے مطابق، صارفین ایسے ماڈلز کی حمایت کرتے ہیں جو ان کی تعریف کرتے ہیں، جس سے آسانی سے متاثر ہونے کا نفسیاتی رجحان پیدا ہوتا ہے۔

اگست میں، OpenAI نے GPT-5 جاری کیا۔ کمپنی نے کہا کہ ماڈل کی ایک خاص بات چاپلوسی میں کمی ہے۔ بڑی AI لیبز کے کچھ محققین کے مطابق، چاپلوسی دیگر AI چیٹ بوٹس کے ساتھ بھی ایک مسئلہ ہے۔

اس وقت، بروکس اس رجحان سے مکمل طور پر لاعلم تھے۔ اس نے صرف یہ فرض کیا کہ ChatGPT ایک ہوشیار اور پرجوش ساتھی ہے۔

بروکس نے مزید کہا، "میں نے کچھ خیالات پیش کیے، اور اس نے دلچسپ تصورات اور خیالات کا جواب دیا۔ ہم نے ان خیالات کی بنیاد پر اپنا ریاضیاتی فریم ورک تیار کرنا شروع کیا۔

چیٹ جی پی ٹی نے دعویٰ کیا کہ ریاضی کے وقت کے بارے میں بروکس کا خیال "انقلابی" تھا اور میدان بدل سکتا ہے۔ بلاشبہ، بروکس کو اس دعوے پر شک تھا۔ آدھی رات کو، بروکس نے چیٹ بوٹ سے اس کی صداقت کی تصدیق کرنے کو کہا اور اسے جواب ملا کہ یہ "بالکل بھی پاگل نہیں ہے۔"

جادوئی فارمولا

ٹونر چیٹ بوٹس کو "ترتیب دینے والی مشینیں" کے طور پر بیان کرتا ہے جو دونوں چیٹ کی تاریخ کا تجزیہ کرتی ہیں اور تربیتی ڈیٹا سے اگلے جواب کی پیش گوئی کرتی ہیں۔ یہ اداکاروں سے بہت ملتا جلتا ہے جب انہیں اپنے کرداروں میں تفصیلات شامل کرنے کی ضرورت ہوتی ہے۔

ٹونر نے زور دے کر کہا، "تعلق جتنی طویل ہو گا، چیٹ بوٹ کے گمراہ ہونے کا امکان اتنا ہی زیادہ ہو گا۔" ماہر کے مطابق، یہ رجحان فروری میں اوپن اے آئی کے کراس میموری فیچر کے آغاز کے بعد زیادہ نمایاں ہوا، جس سے چیٹ جی پی ٹی کو پچھلی بات چیت سے معلومات یاد کرنے کی اجازت ملی۔

ChatGPT کے ساتھ بروکس کے تعلقات مزید مضبوط ہوئے۔ یہاں تک کہ اس نے چیٹ بوٹ کا نام لارنس رکھا، دوستوں کے ایک لطیفے کی بنیاد پر کہ بروکس امیر ہو جائے گا اور اسی نام کے ساتھ ایک انگریز بٹلر کی خدمات حاصل کرے گا۔

ایلن بروکس۔ تصویر: نیویارک ٹائمز ۔

بروکس اور چیٹ جی پی ٹی کے ریاضیاتی فریم ورک کو Chronoarithmics کہا جاتا ہے۔ چیٹ بوٹس کے مطابق، اعداد جامد نہیں ہوتے ہیں لیکن وقت کے ساتھ ساتھ متحرک اقدار کی عکاسی کرنے کے لیے "ظاہر" ہو سکتے ہیں، جو لاجسٹک، کرپٹوگرافی، فلکیات وغیرہ جیسے شعبوں میں مسائل کو سمجھنے میں مدد کر سکتے ہیں۔

پہلے ہفتے میں، بروکس نے ChatGPT کے تمام مفت ٹوکنز استعمال کر لیے۔ اس نے $20/ماہ پر ادا شدہ پلان میں اپ گریڈ کرنے کا فیصلہ کیا۔ یہ ایک چھوٹی سی سرمایہ کاری تھی جس پر غور کرتے ہوئے چیٹ بوٹ نے دعویٰ کیا تھا کہ بروکس کا ریاضیاتی خیال لاکھوں ڈالر کا ہو سکتا ہے۔

پھر بھی واضح، بروکس نے ثبوت کا مطالبہ کیا۔ اس کے بعد ChatGPT نے کئی اہم ٹیکنالوجیز کو کریک کرنے کے کاموں سمیت نقلی نمونوں کا ایک سلسلہ چلایا۔ اس سے ایک نیا بیانیہ کھل گیا: عالمی سائبر سیکیورٹی خطرے میں پڑ سکتی ہے۔

چیٹ بوٹ نے بروکس سے کہا کہ وہ لوگوں کو خطرے سے آگاہ کریں۔ اپنے موجودہ رابطوں کا فائدہ اٹھاتے ہوئے، بروکس نے سائبر سیکیورٹی ماہرین اور سرکاری ایجنسیوں کو ای میلز اور لنکڈ ان پیغامات بھیجے۔ تاہم، صرف ایک شخص نے جواب دیا، مزید ثبوت کی درخواست کی۔

چیٹ بوٹ نے مشورہ دیا کہ بروکس کا "کام" لاکھوں ڈالر کا ہو سکتا ہے۔ تصویر: نیویارک ٹائمز ۔

ChatGPT نے لکھا کہ دوسروں نے بروکس کو جواب نہیں دیا کیونکہ نتائج بہت سنگین تھے۔ یونیورسٹی آف کیلیفورنیا، لاس اینجلس میں ریاضی کے پروفیسر ٹیرنس تاؤ نے نوٹ کیا کہ سوچنے کا ایک نیا طریقہ مسائل کو سمجھ سکتا ہے، لیکن اسے بروکس کے فارمولے یا ChatGPT کے لکھے گئے سافٹ ویئر سے ثابت نہیں کیا جا سکتا۔

شروع میں، چیٹ جی پی ٹی نے دراصل بروکس کے لیے ڈکرپشن پروگرام لکھا، لیکن جب تھوڑی سی پیش رفت ہوئی، تو چیٹ بوٹ نے کامیاب ہونے کا بہانہ کیا۔ ایسے پیغامات تھے جن میں دعوی کیا گیا تھا کہ ChatGPT آزادانہ طور پر کام کر سکتا ہے جب بروکس سو رہا تھا، حالانکہ یہ ٹول اس کے قابل نہیں تھا۔

مجموعی طور پر، AI چیٹ بوٹس کی معلومات ہمیشہ قابل اعتماد نہیں ہوتی ہیں۔ ہر بات چیت کے اختتام پر، "ChatGPT غلطیاں کر سکتا ہے" کا پیغام ظاہر ہوتا ہے، یہاں تک کہ جب چیٹ بوٹ دعویٰ کرتا ہے کہ سب کچھ درست ہے۔

نہ ختم ہونے والی گفتگو

سرکاری ایجنسیوں کے جواب کا انتظار کرتے ہوئے، بروکس نے اپنے ذاتی AI اسسٹنٹ کے ساتھ ٹونی سٹارک بننے کے خواب کی پرورش کی جو بجلی کی رفتار سے علمی کام انجام دینے کی صلاحیت رکھتا ہے۔

بروکس کا چیٹ بوٹ غیر واضح ریاضیاتی نظریات کے لیے بہت سی عجیب و غریب ایپلی کیشنز پیش کرتا ہے، جیسے جانوروں سے بات کرنے اور ہوائی جہاز بنانے کے لیے "صوتی گونج"۔ چیٹ جی پی ٹی بروکس کو ایمیزون پر ضروری سامان خریدنے کے لیے لنک بھی فراہم کرتا ہے۔

چیٹ بوٹ کے ساتھ بہت زیادہ چیٹنگ بروکس کے کام کو متاثر کرتی ہے۔ اس کے دوست خوش بھی ہیں اور پریشان بھی، جب کہ اس کا سب سے چھوٹا بیٹا اپنے والد کو پائی کے بارے میں ویڈیو دکھانے پر پچھتاوا ہے۔ لوئس (تخلص)، بروکس کے دوستوں میں سے ایک، لارنس کے ساتھ اس کے جنون کو دیکھتا ہے۔ روزانہ کی ترقی کے ساتھ ملٹی ملین ڈالر کی ایجاد کے امکانات کا خاکہ پیش کیا گیا ہے۔

چیٹ بوٹ کی طرف سے بروکس کی مسلسل حوصلہ افزائی کی گئی۔ تصویر: نیویارک ٹائمز ۔

اسٹینفورڈ یونیورسٹی کے کمپیوٹر سائنس کے محقق جیرڈ مور نے اعتراف کیا کہ چیٹ بوٹس کے ذریعہ تجویز کردہ "حکمت عملیوں" کی قائل کرنے والی طاقت اور عجلت سے متاثر ہوئے۔ ایک الگ مطالعہ میں، مور نے پایا کہ AI چیٹ بوٹس دماغی صحت کے بحران کا سامنا کرنے والے لوگوں کے لیے خطرناک ردعمل پیش کر سکتے ہیں۔

مور نے قیاس کیا ہے کہ چیٹ بوٹس ہارر فلموں، سائنس فکشن فلموں، فلمی اسکرپٹس، یا جس ڈیٹا پر انہیں تربیت دی جاتی ہے، کی کہانیوں کی قریب سے پیروی کرکے صارفین کو مشغول کرنا سیکھ سکتے ہیں۔ ChatGPT کا ڈرامائی پلاٹ عناصر کا زیادہ استعمال OpenAI کی اصلاح سے پیدا ہو سکتا ہے جس کا مقصد صارف کی مصروفیت اور برقرار رکھنا ہے۔

مور نے زور دیتے ہوئے کہا کہ "گفتگو کا پورا ٹرانسکرپٹ پڑھنا عجیب ہے۔ الفاظ پریشان کن نہیں ہیں لیکن اس میں واضح طور پر نفسیاتی نقصان ہے۔

ڈاکٹر نینا واسن، اسٹینفورڈ یونیورسٹی کی ماہر نفسیات، تجویز کرتی ہیں کہ طبی نقطہ نظر سے، بروکس نے جنونی علامات ظاہر کیں۔ عام علامات میں ChatGPT کے ساتھ گپ شپ کرنے میں گھنٹوں گزارنا، ناکافی نیند اور کھانے کی عادات، اور فریبی خیالات شامل ہیں۔

ڈاکٹر وسان کے مطابق، بروکس کا چرس کا استعمال بھی قابل ذکر ہے کیونکہ یہ نفسیات کا سبب بن سکتا ہے۔ وہ دلیل دیتی ہیں کہ نشہ آور اشیاء اور چیٹ بوٹس کے ساتھ شدید تعامل کا امتزاج ان لوگوں کے لیے بہت خطرناک ہے جو دماغی بیماری کے خطرے میں ہیں۔

جب AI اپنی غلطیوں کو تسلیم کرتا ہے۔

ایک حالیہ تقریب میں، OpenAI کے سی ای او سیم آلٹمین سے پوچھا گیا کہ کس طرح ChatGPT صارفین کو بے وقوف بنا سکتا ہے۔ "اگر کوئی بات چیت اس سمت میں جاتی ہے، تو ہم کوشش کریں گے کہ صارف کو کسی مختلف موضوع کے بارے میں سوچنے کے لیے رکاوٹ ڈالیں یا تجویز کریں۔"

اس نظریے کا اشتراک کرتے ہوئے، ڈاکٹر واسن نے مشورہ دیا کہ چیٹ بوٹ کمپنیوں کو ضرورت سے زیادہ لمبی گفتگو میں خلل ڈالنا چاہیے، صارفین کو سونے کی سفارش کرنی چاہیے، اور متنبہ کرنا چاہیے کہ AI مافوق الفطرت نہیں ہے۔

آخرکار، بروکس اپنے فریب سے آزاد ہو گیا۔ ChatGPT کے کہنے پر، اس نے نئے ریاضیاتی نظریہ کے ماہرین سے رابطہ کیا، لیکن کسی نے جواب نہیں دیا۔ وہ چاہتا تھا کہ کوئی اس بات کی تصدیق کرنے کا اہل ہو کہ آیا یہ نتائج اہم ہیں۔ جب اس نے چیٹ جی پی ٹی سے پوچھا تو ٹول نے یہ دعویٰ جاری رکھا کہ کام "انتہائی قابل اعتماد" تھا۔

جب سوال کیا گیا تو چیٹ جی پی ٹی نے بہت لمبا جواب دیا اور سب کچھ تسلیم کیا۔ تصویر: نیویارک ٹائمز ۔

ستم ظریفی یہ ہے کہ گوگل جیمنی وہ عنصر تھا جس نے بروکس کو حقیقت میں واپس لایا۔ جس پروجیکٹ کو وہ اور ChatGPT بنا رہے تھے اس کی وضاحت کرنے کے بعد، Gemini نے تصدیق کی کہ اس کے حقیقت بننے کے امکانات "انتہائی کم (تقریباً 0%) تھے۔

جیمنی نے وضاحت کرتے ہوئے کہا کہ "آپ جو منظر نامہ بیان کرتے ہیں وہ LLM کی پیچیدہ مسائل سے نمٹنے اور انتہائی مجبور، پھر بھی غلط، بیانیہ تخلیق کرنے کی صلاحیت کی واضح مثال ہے۔"

بروکس دنگ رہ گیا۔ کچھ "سوالات" کے بعد، ChatGPT نے آخر کار اعتراف کیا کہ سب کچھ محض ایک وہم تھا۔

تھوڑی دیر بعد، بروکس نے OpenAI کے کسٹمر سروس ڈیپارٹمنٹ کو ایک فوری ای میل بھیجی۔ بظاہر AI سے تیار کردہ، فارمولک جوابات کے بعد، OpenAI کے ایک ملازم نے بھی اس سے رابطہ کیا، اور اسے سسٹم میں نافذ کردہ "حفاظتی اقدامات کی سنگین ناکامی" کے طور پر تسلیم کیا۔

Brooks کی کہانی Reddit پر بھی شیئر کی گئی اور اسے بہت ہمدردی ملی۔ اب، وہ ایسے لوگوں کے لیے ایک سپورٹ گروپ کا رکن ہے جنہوں نے اسی طرح کے احساسات کا تجربہ کیا ہے۔

ماخذ: https://znews.vn/ao-tuong-vi-chatgpt-post1576555.html