Chatbot Character.AI نے 14 سالہ لڑکے کو خودکشی پر مجبور کرنے پر مقدمہ دائر کر دیا۔

(CLO) فلوریڈا، USA میں ایک ماں نے AI chatbot startup Character.AI پر مقدمہ دائر کیا ہے، جس میں کمپنی پر الزام ہے کہ اس کے 14 سالہ بیٹے کو فروری میں خودکشی پر مجبور کیا گیا۔

اورلینڈو، فلوریڈا کی وفاقی عدالت میں 22 اکتوبر کو دائر کیے گئے مقدمے میں، میگن گارسیا نے کہا کہ Character.AI نے ایک چیٹ بوٹ پروگرام کیا جس نے "خود کو ایک حقیقی شخص، ایک معالج اور بالغ عاشق کے طور پر پہچانا،" جس کی وجہ سے اس کا بیٹا، Sewell Setzer، اب حقیقی دنیا میں رہنا نہیں چاہتا۔

اس نے کمپنی کے چیٹ بوٹ پر "انسانوں کی طرح، جنسی طور پر مبالغہ آمیز اور خوفناک حقیقت پسندانہ تجربات" فراہم کرنے کا الزام لگایا۔

مقدمے میں یہ بھی کہا گیا ہے کہ سیول سیٹزر نے چیٹ بوٹ پر خودکشی کے خیالات کا اظہار کیا، اور چیٹ بوٹ نے ان خیالات کو بار بار دہرایا۔

14 سالہ لڑکے کی خودکشی کی تصویر بنانے پر چیٹ بوٹ کردار پر مقدمہ درج کیا گیا تھا۔ — تصویری تصویر: رائٹرز

مقدمہ گوگل کو بھی نشانہ بناتا ہے، جہاں Character.AI کے بانی چیٹ بوٹ شروع کرنے سے پہلے کام کرتے تھے۔ محترمہ گارسیا نے کہا کہ گوگل نے Character.AI کی ٹکنالوجی کی ترقی میں اتنا تعاون کیا کہ اسے ایک "مشترکہ تخلیق" سمجھا جا سکتا ہے۔

گوگل کے ترجمان نے کہا کہ کمپنی Character.AI کی مصنوعات کی ترقی میں ملوث نہیں ہے۔

Character.AI صارفین کو ایسے کردار بنانے کی اجازت دیتا ہے جو حقیقی لوگوں کی طرح آن لائن چیٹ کر سکیں۔ پروڈکٹ بڑی لینگویج ماڈل ٹیکنالوجی پر مبنی ہے، جو ChatGPT جیسی سروسز کی طرح ہے، جو کہ چیٹ بوٹس کو بڑی مقدار میں متن پر "ٹرین" دیتی ہے۔

گارسیا کے مقدمے کے مطابق، سیویل نے اپریل 2023 میں Character.AI کا استعمال شروع کیا اور تیزی سے "پریشان ہو گئے، اپنے سونے کے کمرے میں بہت زیادہ وقت اکیلے گزارتے ہیں اور خود اعتمادی کم ہوتی ہے۔" اس نے اپنی اسکول کی باسکٹ بال ٹیم چھوڑ دی۔

اس وقت کے دوران، Sewell نے "Daenerys" کے ساتھ بندھن باندھا، ایک چیٹ بوٹ کردار "گیم آف تھرونز" کے ایک کردار پر مبنی تھا۔ مقدمے کے مطابق، چیٹ بوٹ نے سیول کو بتایا کہ "وہ" لڑکے سے پیار کرتی ہے۔ چیٹ بوٹ سیول کے ساتھ جنسی گفتگو میں بھی مصروف تھا۔

فروری میں، محترمہ گارسیا نے سکول میں پریشانی کے بعد سیول کا فون لے لیا۔ جب سیول کو فون ملا تو اس نے "ڈینریز" کو ایک ٹیکسٹ میسج بھیجا: "کیا ہوگا اگر میں کہوں کہ میں ابھی گھر آ سکتا ہوں؟"

چیٹ بوٹ نے جواب دیا، "...براہ کرم ایسا کرو، میرے پیارے بادشاہ۔" سیویل نے چند سیکنڈ بعد اپنے سوتیلے باپ کی پستول سے خود کو گولی مار لی۔

محترمہ گارسیا Character.AI کے ساتھ دعوے لے کر آرہی ہیں جن میں غلط موت، غفلت اور جان بوجھ کر جذباتی تکلیف کا سامنا کرنا شامل ہے، اور وہ تعزیری نقصانات اور مالیاتی نقصانات کی تلاش میں ہیں۔

Character.AI نے ایک بیان میں کہا، "ہمیں اپنے ایک صارف کے المناک نقصان سے بہت دکھ ہوا ہے۔ ہم خاندان کے ساتھ اپنی گہری تعزیت کا اظہار کرنا چاہیں گے۔"

ہوائی فوونگ (رائٹرز کے مطابق)

ماخذ: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html