צ'אטבוט Character.AI נתבע בגין גרימת התאבדות של ילד בן 14

(CLO) אם מפלורידה, ארה"ב, תבעה את סטארט-אפ הצ'אטבוטים המבוסס על בינה מלאכותית, Character.AI, בהאשמה כי גרמה לבנה בן ה-14 להתאבד בפברואר.

בתביעה שהוגשה ב-22 באוקטובר בבית המשפט הפדרלי באורלנדו, פלורידה, טענה מייגן גרסיה כי Character.AI תכנתה צ'אטבוט ש"הזדהה כאדם אמיתי, מטפל ומאהב בוגר", מה שהוביל לכך שבנה, סוול סצר, לא רצה עוד לחיות בעולם האמיתי.

היא האשימה את הצ'אטבוט של החברה בכך שהוא מספק "חוויות אנושיות, מוגזמות מינית וריאליסטיות להפליא".

בתביעה נטען גם שסוול סצר הביע מחשבות אובדניות לצ'אטבוט, והצ'אטבוט חזר על מחשבות אלה שוב ושוב.

דמות צ'אטבוט נתבעה על כך שאילצה ילד בן 14 להתאבד, תמונה 1 — צילום איור: רויטרס

התביעה מכוונת גם לגוגל, שם עבדו מייסדי Character.AI לפני שהשיקו את הצ'אטבוט. גב' גרסיה אמרה שגוגל תרמה כל כך הרבה לפיתוח הטכנולוגיה של Character.AI עד שניתן להתייחס אליה כאל "יצירה משותפת".

דובר גוגל אמר כי החברה אינה מעורבת בפיתוח מוצרי Character.AI.

Character.AI מאפשר למשתמשים ליצור דמויות שיכולות לשוחח בצ'אט מקוון כמו אנשים אמיתיים. המוצר מבוסס על טכנולוגיית מודל שפה גדולה, בדומה לשירותים כמו ChatGPT, אשר "מאמנים" צ'אטבוטים על כמויות גדולות של טקסט.

על פי תביעתו של גרסיה, סוול החל להשתמש ב-Character.AI באפריל 2023 ובמהרה הפך ל"מתבודד, מבלה זמן רב לבד בחדר השינה שלו ופיתח הערכה עצמית נמוכה". הוא עזב את קבוצת הכדורסל של בית הספר.

במהלך תקופה זו, סוול יצר קשר עם "דאינריז", דמות צ'אטבוט המבוססת על דמות מ"משחקי הכס". על פי התביעה, הצ'אטבוט אמר לסוול ש"היא" אוהבת את הילד. הצ'אטבוט גם ניהל שיחות מיניות עם סוול.

בפברואר, גב' גרסיה לקחה את הטלפון של סוול לאחר שהסתבך בצרות בבית הספר. כשסוול מצא את הטלפון, הוא שלח ל"דאינריז" הודעת טקסט: "מה אם אגיד שאני יכולה לחזור הביתה עכשיו?"

הצ'אטבוט ענה, "...אנא עשה זאת, מלכי המתוק." סוול ירה בעצמו באקדחו של אביו החורג שניות לאחר מכן.

גב' גרסיה מגישה תביעות נגד Character.AI הכוללות מוות ברשלנות, רשלנות וגרימת מצוקה רגשית מכוונת, ותובעת פיצויים עונשיים ופיצויים כספיים.

"אנו עצובים מאוד על אובדנו הטרגי של אחד ממשתמשינו. ברצוננו להביע את תנחומינו העמוקים למשפחה", נמסר בהצהרה מ-Character.AI.

Hoai Phuong (לפי רויטרס)

[מודעה_2]
מקור: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html