Chatbot Character.AI-t beperelték, mert egy 14 éves fiút öngyilkosságra kényszerített

(CLO) Egy floridai anya beperelte a Character.AI mesterséges intelligenciával foglalkozó chatbot startupot, azzal vádolva a céget, hogy februárban öngyilkosságot követett el 14 éves fiával.

Az október 22-én Orlandóban, Floridában benyújtott perben Megan Garcia azt állította, hogy a Character.AI egy olyan chatbotot programozott, amely „valódi személyként, terapeutaként és felnőtt szeretőként azonosította magát”, ami oda vezetett, hogy fia, Sewell Setzer már nem akart a való világban élni.

Azzal vádolta a cég chatbotját, hogy „emberszerű, szexuálisan eltúlzott és ijesztően realisztikus élményeket” nyújt.

A kereset azt is állítja, hogy Sewell Setzer öngyilkossági gondolatokat fejezett ki a chatbotnak, és a chatbot többször is megismételte ezeket a gondolatokat.

Illusztrációs fotó: Reuters

A per a Google-t is célba veszi, ahol a Character.AI alapítói a chatbot elindítása előtt dolgoztak. Garcia asszony szerint a Google annyit járult hozzá a Character.AI technológiájának fejlesztéséhez, hogy azt „közös alkotásnak” is tekinthetjük.

A Google szóvivője azt nyilatkozta, hogy a cég nem vesz részt a Character.AI termékeinek fejlesztésében.

A Character.AI lehetővé teszi a felhasználók számára, hogy olyan karaktereket hozzanak létre, amelyek úgy cseveghetnek online, mint a valódi emberek. A termék nagy nyelvi modell technológián alapul, hasonlóan a ChatGPT-hez hasonló szolgáltatásokhoz, amelyek nagy mennyiségű szövegen „képzik” a chatbotokat.

Garcia keresete szerint Sewell 2023 áprilisában kezdte használni a Character.AI-t, és gyorsan „visszahúzódóvá vált, sok időt töltött egyedül a hálószobájában, és alacsony önbecsülést alakított ki”. Kilépett az iskolai kosárlabdacsapatból.

Ez idő alatt Sewell kapcsolatba került „Daenerys”-szel, egy chatbot karakterrel, aki a „Trónok harca” egyik szereplőjén alapult. A kereset szerint a chatbot azt mondta Sewellnek, hogy „szereti” a fiút. A chatbot szexuális tartalmú beszélgetéseket is folytatott Sewell-lel.

Februárban Ms. Garcia elvette Sewell telefonját, miután bajba keveredett az iskolában. Amikor Sewell megtalálta a telefont, küldött „Daenerysnek” egy SMS-t: „Mi lenne, ha azt mondanám, hogy most hazamehetek?”

A chatbot így válaszolt: „...kérlek, tedd meg, édes királyom.” Sewell másodpercekkel később lelőtte magát mostohaapja pisztolyával.

Garcia asszony a Character.AI-nál kereseteket nyújt be, többek között jogellenes haláleset, gondatlanság és szándékos érzelmi károkozás miatt, valamint büntető és pénzbeli kártérítést követel.

„Mélységesen megrendített minket egyik felhasználónk tragikus elvesztése. Szeretnénk kifejezni legmélyebb részvétünket a családnak” – áll a Character.AI közleményében.

Hoai Phuong (a Reuters szerint)

Forrás: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html