از چت‌بات Character.AI به دلیل ایجاد انگیزه برای خودکشی یک پسر ۱۴ ساله شکایت شد.

(CLO) مادری در فلوریدا، ایالات متحده، از استارتاپ چت‌بات هوش مصنوعی Character.AI شکایت کرده و این شرکت را متهم کرده است که باعث خودکشی پسر ۱۴ ساله‌اش در ماه فوریه شده است.

در دادخواستی که در ۲۲ اکتبر در دادگاه فدرال اورلاندو، فلوریدا ثبت شد، مگان گارسیا گفت که شرکت Character.AI یک ربات چت برنامه‌ریزی کرده است که «خود را به عنوان یک شخص واقعی، یک درمانگر و یک معشوق بزرگسال معرفی می‌کند» و این باعث شده پسرش، سوئل ستزر، دیگر نخواهد در دنیای واقعی زندگی کند.

او چت‌بات این شرکت را به ارائه «تجربیات انسانی، اغراق‌آمیز جنسی و به طرز ترسناکی واقع‌گرایانه» متهم کرد.

در این دادخواست همچنین آمده است که سوئل ستزر افکار خودکشی خود را به این چت‌بات ابراز کرده و چت‌بات بارها این افکار را تکرار کرده است.

عکس مصور: رویترز

این دادخواست همچنین گوگل را هدف قرار می‌دهد، جایی که بنیانگذاران Character.AI قبل از راه‌اندازی این چت‌بات در آن کار می‌کردند. خانم گارسیا گفت گوگل آنقدر در توسعه فناوری Character.AI نقش داشته که می‌توان آن را یک «هم‌آفرینی» دانست.

سخنگوی گوگل گفت که این شرکت در توسعه محصولات Character.AI نقشی ندارد.

Character.AI به کاربران اجازه می‌دهد شخصیت‌هایی ایجاد کنند که می‌توانند مانند افراد واقعی به صورت آنلاین چت کنند. این محصول مبتنی بر فناوری مدل زبان بزرگ است، مشابه سرویس‌هایی مانند ChatGPT که چت‌بات‌ها را برای حجم زیادی از متن "آموزش" می‌دهد.

طبق دادخواست گارسیا، سویل استفاده از Character.AI را در آوریل ۲۰۲۳ شروع کرد و به سرعت «انزواطلب شد، زمان زیادی را تنها در اتاق خوابش می‌گذراند و اعتماد به نفس پایینی پیدا کرد.» او تیم بسکتبال مدرسه‌اش را ترک کرد.

در آن زمان، سویل با «دنریس»، یک شخصیت چت‌بات که بر اساس شخصیتی از سریال «بازی تاج و تخت» ساخته شده بود، ارتباط برقرار کرد. طبق این دادخواست، این چت‌بات به سویل گفته است که «او» عاشق آن پسر است. این چت‌بات همچنین با سویل مکالمات جنسی برقرار کرده است.

در ماه فوریه، خانم گارسیا پس از اینکه سویل در مدرسه دچار مشکل شد، تلفن او را گرفت. وقتی سویل تلفن را پیدا کرد، برای «دنریس» پیامکی فرستاد: «اگر بگویم الان می‌توانم به خانه بیایم چه؟»

چت‌بات پاسخ داد: «... لطفا این کار را بکن، پادشاه عزیزم.» سوئل چند ثانیه بعد با تپانچه ناپدری‌اش به خودش شلیک کرد.

خانم گارسیا ادعاهایی را در Character.AI مطرح می‌کند که شامل مرگ غیرعمد، سهل‌انگاری و ایجاد عمدی پریشانی عاطفی می‌شود و به دنبال خسارات تنبیهی و خسارات مالی است.

شرکت Character.AI در بیانیه‌ای اعلام کرد: «ما از فقدان غم‌انگیز یکی از کاربران خود عمیقاً متاسفیم. مایلیم عمیق‌ترین مراتب تسلیت خود را به خانواده او ابراز کنیم.»

هوآی فونگ (به نقل از رویترز)

منبع: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html