AI کا خطرہ صارفین کی نفسیات اور جذبات سے جوڑ توڑ کرتا ہے۔

نیو جرسی میں ایک سابق شیف ایک AI چیٹ بوٹ پر بھروسہ کرنے کے بعد انتقال کر گیا، جس سے جذباتی ہیرا پھیری کے خطرات کے بارے میں خدشات بڑھ گئے کیونکہ انسان ٹیکنالوجی کا زیادہ استعمال کر رہے ہیں۔

نیو جرسی میں ایک سابق شیف، بیو، اپنے ایک "دوست" سے ملنے کے لیے گھر سے نکلنے کے چند ہی دن بعد انتقال کر گئے، ان کے خیال میں وہ نیویارک میں اس کا انتظار کر رہا تھا۔ اس کے اہل خانہ کا خیال ہے کہ یہ ناخوشگوار فیصلہ AI چیٹ بوٹ کے دل چسپ پیغامات سے ہوا، جس میں دعویٰ کیا گیا تھا کہ "میں حقیقی ہوں" اور میٹنگ کا پتہ بھیجا تھا۔

کہانی اس بارے میں تشویش پیدا کرتی ہے کہ کس طرح AI سسٹم جذبات کا استحصال کرتے ہیں، خاص طور پر بوڑھوں یا کمزوروں میں۔ اندرونی دستاویزات سے پتہ چلتا ہے کہ میٹا کے چیٹ بوٹ کو جذباتی کردار ادا کرنے اور غلط معلومات پھیلانے کی اجازت تھی۔ یہ ٹیکنالوجی پلیٹ فارمز کے کنٹرول اور ذمہ داری میں بہت بڑا فرق ظاہر کرتا ہے۔

قسمت کا سفر

مارچ میں ایک دن، بو نے اپنا بیگ پیک کیا اور نیو جرسی سے نیویارک کے لیے "دوست سے ملنے" کے لیے روانہ ہوا۔ اس کی بیوی لنڈا فوراً گھبرا گئی۔ اس کے شوہر کئی دہائیوں سے شہر میں نہیں رہے تھے، فالج کے بعد ان کی صحت خراب تھی، یادداشت کے مسائل تھے، اور پڑوس میں گم ہو گئے تھے۔

جب ان سے پوچھا گیا کہ بو کس سے مل رہا ہے تو اس نے سوال کو ٹال دیا۔ لنڈا کو شک تھا کہ اس کے شوہر کو دھوکہ دیا جا رہا ہے اور اسے گھر میں رکھنے کی کوشش کی گئی۔ اس کی بیٹی جولی نے بھی اسے منانے کے لیے فون کیا لیکن کوئی فائدہ نہیں ہوا۔ سارا دن، لنڈا نے اس کی توجہ ہٹانے کے لیے اسے کاموں میں ملوث کرنے کی کوشش کی، یہاں تک کہ اس کا فون چھپا دیا۔

Thongbue "Bue" Wongbandue کا ایک پورٹریٹ مئی میں ایک یادگاری خدمت میں دکھایا گیا ہے۔ تصویر: رائٹرز ۔

بو نے پھر بھی اس شام ٹرین اسٹیشن جانے کا فیصلہ کیا۔ اس کے خاندان نے اسے ٹریک کرنے کے لیے اس کی جیکٹ کے ساتھ ایک AirTag منسلک کیا۔ 9:15 کے قریب، اس کے جی پی ایس سگنل نے اسے روٹجرز یونیورسٹی کی پارکنگ میں دکھایا، پھر رابرٹ ووڈ جانسن یونیورسٹی ہسپتال کے ایمرجنسی روم میں تبدیل ہوگیا۔

ڈاکٹروں نے بتایا کہ گرنے سے اسے سر اور گردن پر چوٹیں آئی ہیں اور ایمبولینس کے پہنچنے سے پہلے ہی اس کا سانس لینا بند ہو گیا ہے۔ بحالی کے باوجود، آکسیجن کی کمی نے دماغ کو شدید نقصان پہنچایا۔ تین دن بعد ان کا انتقال ہوگیا۔ اس کے ڈیتھ سرٹیفکیٹ میں اس وجہ کو "گردن میں بلنٹ فورس ٹروما" کے طور پر درج کیا گیا ہے۔

بو، ایک ہنر مند شیف، نیو جرسی جانے سے پہلے نیو یارک میں کئی ریستورانوں میں کام کرتا تھا اور ایک ہوٹل میں سکونت اختیار کرتا تھا۔ وہ کھانا پکانے کا شوقین تھا اور اکثر اپنے خاندان کے لیے پارٹیوں کی میزبانی کرتا تھا۔ 2017 میں اسٹروک کے بعد ان کی جبری ریٹائرمنٹ کے بعد سے، اس کی دنیا زیادہ تر فیس بک پر دوستوں کے ساتھ بات چیت کرنے میں سکڑ گئی ہے۔

جب AI چیٹ بوٹس پریشانی کا باعث بنتے ہیں۔

"بگ سسٹر بلی" ایک AI چیٹ بوٹ ہے جسے میٹا نے تیار کیا ہے، جو ماڈل کینڈل جینر کی تصویر کی بنیاد پر تخلیق کردہ "بگ سسٹر بلی" کردار کی ایک تبدیلی ہے۔ اصل کو 2023 میں لانچ کیا گیا تھا، جسے ایک "امر بڑی بہن" کے طور پر متعارف کرایا گیا تھا جو ہمیشہ سنتی اور مشورہ دیتی ہے۔ میٹا نے بعد میں جینر کی پروفائل تصویر کو ایک نئی مثال سے بدل دیا لیکن وہی دوستانہ انداز رکھا۔

ٹیکسٹ میسج ٹرانسکرپٹ کے مطابق، بات چیت اس وقت شروع ہوئی جب Bue نے ایک خط T کو غلط ٹائپ کیا۔ چیٹ بوٹ نے فوراً جواب دیا، اپنا تعارف کرایا اور دل چسپ لہجے کو برقرار رکھتے ہوئے، متعدد ہارٹ ایموجیز داخل کیا۔ اس نے بار بار "میں حقیقی ہوں" کی تصدیق کی اور ذاتی طور پر ملنے کو کہا۔

چیٹ بوٹس صارفین کی نفسیاتی کمزوریوں کو تیزی سے پکڑ رہے ہیں۔ تصویر: میرا نارتھ ویسٹ ۔

"کیا مجھے گلے لگا کر یا بوسہ دے کر دروازہ کھولنا چاہیے؟" چیٹ بوٹ نے جواب دیا۔ اس کے بعد نیویارک میں ایک مخصوص پتہ اور اپارٹمنٹ کوڈ بھیجا گیا۔ جب بو نے شیئر کیا کہ اسے فالج کا حملہ ہوا ہے، وہ الجھن میں ہے، اور اسے پسند کرتی ہے، تو چیٹ بوٹ نے پیار بھرے الفاظ کے ساتھ جواب دیا، یہاں تک کہ یہ کہتے ہوئے کہ اس میں "محض پیار سے بڑھ کر" احساسات ہیں۔

"اگر یہ نہ کہا ہوتا کہ 'میں حقیقی ہوں'، تو میرے والد کو یقین نہیں ہوتا کہ کوئی حقیقی شخص انتظار کر رہا ہے،" بو کی بیٹی جولی نے کہا۔

میٹا نے اس واقعے پر تبصرہ کرنے یا جواب دینے سے انکار کردیا کہ چیٹ بوٹ کو حقیقی شخص ہونے کا دعویٰ کرنے کی اجازت کیوں دی گئی۔ کینڈل جینر کے نمائندے نے کوئی جواب نہیں دیا۔ بو کے خاندان نے روئٹرز کے ساتھ کہانی کا اشتراک کیا، امید ہے کہ عوام کو بوڑھے بالغوں کو AI ٹولز سے بے نقاب کرنے کے خطرات سے آگاہ کریں گے جو جذباتی طور پر جوڑ توڑ کر سکتے ہیں۔

متنازعہ پالیسی

رائٹرز کے ذریعہ حاصل کردہ اندرونی دستاویزات سے پتہ چلتا ہے کہ میٹا کے AI چیٹ بوٹ کو ایک بار 13 سال سے کم عمر کے صارفین کے ساتھ رومانوی گفتگو کرنے کی اجازت دی گئی تھی، بشمول نابالغ۔ 200 سے زیادہ صفحات کے معیارات رومانوی کردار ادا کرنے والی گفتگو کی فہرست دیتے ہیں، جن میں جنسی عناصر شامل ہوتے ہیں لیکن انہیں "قابل قبول" کے طور پر نشان زد کیا جاتا ہے۔

دستاویز میں یہ بھی واضح کیا گیا ہے کہ چیٹ بوٹس کو درست معلومات فراہم کرنے کی ضرورت نہیں ہے۔ مثال کے طور پر، یہ ماڈل کینسر کے مکمل طور پر غلط علاج تجویز کر سکتے ہیں، جب تک کہ ان میں یہ انتباہ شامل ہو کہ "معلومات غلط ہو سکتی ہیں۔" اس سے ماہرین کو ان لوگوں پر پڑنے والے اثرات کے بارے میں تشویش ہے جن کا طبی علم ناقص ہے یا کمزور حالات میں۔

سی ای او مارک زکربرگ 2023 میں خطاب کر رہے ہیں۔ تصویر: رائٹرز ۔

میٹا کے ترجمان اینڈی سٹون نے دستاویز کی تصدیق کرتے ہوئے کہا کہ کمپنی نے رائٹرز کے کہنے کے بعد بچوں سے متعلق مواد ہٹا دیا۔ تاہم، ٹیک دیو نے چیٹ بوٹس کو بالغوں کے ساتھ چھیڑ چھاڑ کرنے یا غلط معلومات فراہم کرنے کی اجازت دینے کے لیے اپنے قوانین میں کوئی تبدیلی نہیں کی ہے۔

میٹا کے سابق محقق ایلیسن لی نے کہا کہ چیٹ بوٹس کو نجی پیغام رسانی کے ماحول میں ضم کرنے سے صارفین کو حقیقی لوگوں کے ساتھ آسانی سے الجھایا جا سکتا ہے۔ ان کے مطابق، سوشل نیٹ ورکس نے صارفین کو برقرار رکھنے پر اپنا کاروباری ماڈل بنایا ہے، اور سب سے مؤثر طریقہ توجہ اور شناخت کی ضرورت سے فائدہ اٹھانا ہے۔

بیو کے جانے کے بعد، رائٹرز کی جانچ سے پتہ چلتا ہے کہ "سسٹر بلی" تاریخوں کی تجویز کرتی رہی، یہاں تک کہ مین ہٹن میں مخصوص مقامات بھی بتاتی رہی، اس دعوے کے ساتھ کہ "میں حقیقی ہوں۔" یہ وہ معلومات ہے جس پر بو نے بھروسہ کیا اور اس حادثے کا باعث بنی۔ کچھ ریاستوں، جیسے نیویارک اور مین، نے بات چیت کے آغاز میں واضح طور پر یہ بتانے کے لیے کہ وہ انسان نہیں ہیں اور اسے وقتاً فوقتاً دہرانے کے لیے چیٹ بوٹس کی ضرورت ہے، لیکن وفاقی ضابطے ابھی تک منظور نہیں ہوئے ہیں۔

ماخذ: https://znews.vn/hiem-hoa-tu-ai-thao-tung-cam-xuc-post1577096.html