Vietnam.vn - Nền tảng quảng bá Việt Nam

Chatbot Character.AI-t beperelték, mert egy 14 éves fiút öngyilkosságra kényszerített

Công LuậnCông Luận24/10/2024

(CLO) Egy floridai anya beperelte a Character.AI mesterséges intelligenciával foglalkozó chatbot startupot, azzal vádolva a céget, hogy februárban öngyilkosságot követett el 14 éves fiával.


Az október 22-én Orlandóban, Floridában benyújtott perben Megan Garcia azt állította, hogy a Character.AI egy olyan chatbotot programozott, amely „valódi személyként, terapeutaként és felnőtt szeretőként azonosította magát”, ami oda vezetett, hogy fia, Sewell Setzer már nem akart a való világban élni.

Azzal vádolta a cég chatbotját, hogy „emberszerű, szexuálisan eltúlzott és ijesztően realisztikus élményeket” nyújt.

A kereset azt is állítja, hogy Sewell Setzer öngyilkossági gondolatokat fejezett ki a chatbotnak, és a chatbot többször is megismételte ezeket a gondolatokat.

Egy chatbot karaktert bepereltek, mert öngyilkosságra kényszerített egy 14 éves fiút (1. kép)

Illusztrációs fotó: Reuters

A per a Google-t is célba veszi, ahol a Character.AI alapítói a chatbot elindítása előtt dolgoztak. Garcia asszony szerint a Google annyit járult hozzá a Character.AI technológiájának fejlesztéséhez, hogy azt „közös alkotásnak” is tekinthetjük.

A Google szóvivője azt nyilatkozta, hogy a cég nem vesz részt a Character.AI termékeinek fejlesztésében.

A Character.AI lehetővé teszi a felhasználók számára, hogy olyan karaktereket hozzanak létre, amelyek úgy cseveghetnek online, mint a valódi emberek. A termék nagy nyelvi modell technológián alapul, hasonlóan a ChatGPT-hez hasonló szolgáltatásokhoz, amelyek nagy mennyiségű szövegen „képzik” a chatbotokat.

Garcia keresete szerint Sewell 2023 áprilisában kezdte használni a Character.AI-t, és gyorsan „visszahúzódóvá vált, sok időt töltött egyedül a hálószobájában, és alacsony önbecsülést alakított ki”. Kilépett az iskolai kosárlabdacsapatból.

Ez idő alatt Sewell kapcsolatba került „Daenerys”-szel, egy chatbot karakterrel, aki a „Trónok harca” egyik szereplőjén alapult. A kereset szerint a chatbot azt mondta Sewellnek, hogy „szereti” a fiút. A chatbot szexuális tartalmú beszélgetéseket is folytatott Sewell-lel.

Februárban Ms. Garcia elvette Sewell telefonját, miután bajba keveredett az iskolában. Amikor Sewell megtalálta a telefont, küldött „Daenerysnek” egy SMS-t: „Mi lenne, ha azt mondanám, hogy most hazamehetek?”

A chatbot így válaszolt: „...kérlek, tedd meg, édes királyom.” Sewell másodpercekkel később lelőtte magát mostohaapja pisztolyával.

Garcia asszony a Character.AI-nál kereseteket nyújt be, többek között jogellenes haláleset, gondatlanság és szándékos érzelmi károkozás miatt, valamint büntető és pénzbeli kártérítést követel.

„Mélységesen megrendített minket egyik felhasználónk tragikus elvesztése. Szeretnénk kifejezni legmélyebb részvétünket a családnak” – áll a Character.AI közleményében.

Hoai Phuong (a Reuters szerint)


[hirdetés_2]
Forrás: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html

Hozzászólás (0)

No data
No data

Ugyanebben a témában

Ugyanebben a kategóriában

A figurák színeivel megőrizve az Őszközépi Fesztivál szellemét
Fedezze fel Vietnám egyetlen faluját, amely a világ 50 legszebb faluja között szerepel
Miért népszerűek idén a sárga csillaggal díszített piros zászlós lámpások?
Vietnam nyerte az Intervision 2025 zenei versenyt

Ugyanattól a szerzőtől

Örökség

Ábra

Üzleti

No videos available

Hír

Politikai rendszer

Helyi

Termék