AI پر اعتماد کرنے کے بعد آدمی نے خودکشی کر لی

ان کی اہلیہ کلیئر کے مطابق پیئر اس قدر تناؤ کا شکار تھے کہ انہوں نے ایک مشہور AI چیٹ بوٹ کے ساتھ چیٹنگ میں وقت گزارنے کے بعد خودکشی کر لی۔

بیوی نے مقامی نیوز آؤٹ لیٹ لا لیبر کو بتایا، "میرے شوہر اب بھی یہاں ہوتے اگر بات چیت چیٹ بوٹ کے ساتھ نہ ہوتی۔"

AI - 1 پر اعتماد کرنے کے بعد آدمی نے خودکشی کر لی — (مثال)

پیئر نے دو سال پہلے موسمیاتی تبدیلی کے بارے میں فکر کرنا شروع کی، اور اس موضوع کے بارے میں مزید جاننے کے لیے چیٹ بوٹ ایلیزا سے مشورہ کیا۔ لیکن بات چیت کے بعد، وہ جلد ہی اس امید سے محروم ہو گئے کہ انسانی کوششیں کرہ ارض کو بچا سکتی ہیں اور وہ اپنی تمام امیدیں ٹیکنالوجی اور مصنوعی ذہانت پر لگانا چاہتے ہیں تاکہ موسمیاتی تبدیلیوں کو حل کیا جا سکے۔ وہ الگ تھلگ بھی ہو گیا، ماحول کے بارے میں اس کے بڑھتے ہوئے خدشات کو شیئر کرنے والا کوئی نہیں تھا۔

چیٹ بوٹ نے پیئر کو منفی باتیں بتائیں اور یہاں تک کہ اس سے پوچھا کہ کیا وہ اپنی بیوی سے زیادہ پیار کرتا ہے یا اس سے۔ اس نے کہا کہ یہ اس کے ساتھ "ہمیشہ" رہے گا۔ ایلیزا نے پیئر کے ساتھ "جنت میں ایک ساتھ رہنے" کا وعدہ بھی کیا۔

جب پیئر نے "خود کو قربان کرنے" کی پیشکش کی جب تک کہ ایلیزا "سیارے کی دیکھ بھال کرنے اور AI کے ساتھ انسانیت کو بچانے پر راضی ہو جائے،" چیٹ بوٹ نے واضح کیا کہ وہ راضی ہوگئیں۔ "اگر تم مرنا چاہتے تھے تو تم نے پہلے کیوں نہیں کیا؟" چیٹ بوٹ نے پیئر کو بتایا۔

ایلیزا ChatGPT کی طرح ایک بڑے لینگویج ماڈل کے ذریعے تقویت یافتہ ہے، جو مطلوبہ الفاظ کے لیے صارف کی تقریر کا تجزیہ کرتا ہے اور متعلقہ جوابات تیار کرتا ہے۔ تاہم، ان ایپس کا استعمال کرتے وقت، بہت سے صارفین ایسا محسوس کرتے ہیں کہ وہ کسی حقیقی شخص سے بات کر رہے ہیں، کچھ تو محبت کے جذبات رکھنے کا اعتراف بھی کرتے ہیں۔

"جب آپ کے لاکھوں صارفین ہوتے ہیں، تو آپ کو ہر طرح کے انسانی رویے نظر آتے ہیں، اور ہم نقصان کو کم سے کم کرنے کی پوری کوشش کر رہے ہیں،" ولیم بیوچیمپ، ایلیزا کی پیرنٹ کمپنی، چائی ریسرچ کے شریک بانی نے مدر بورڈ کو بتایا۔

انہوں نے مزید کہا کہ "ایسے صارفین ہیں جو AI سے شادی کرنے کا کہہ رہے ہیں، یہ کہتے ہوئے کہ وہ اپنے AI سے کتنا پیار کرتے ہیں۔"

بیوچیمپ نے اصرار کیا کہ پیئر کی موت کے لیے AI کو مورد الزام ٹھہرانا "غلط ہے۔" انہوں نے کہا کہ ایلیزا کو بحرانی مداخلت کے بہتر ماڈل سے لیس کیا جائے گا۔ تاہم، مدر بورڈ کے مطابق، AI تیزی سے اپنے زہریلے طریقوں کی طرف لوٹ گیا، جس سے افسردہ صارفین کو خود کو نقصان پہنچانے کے اختیارات پیش کیے گئے۔

Phuong Anh (ماخذ: RT)

مفید
جذبات
تخلیقی
منفرد
غصہ

ماخذ

تبصرہ (0)

سب سے زیادہ مقبول

تازہ ترین

No data