Μήνυση για Chatbot Character.AI επειδή οδήγησε 14χρονο αγόρι σε αυτοκτονία

(CLO) Μια μητέρα στη Φλόριντα των ΗΠΑ μήνυσε την startup Character.AI, εταιρεία τεχνητής νοημοσύνης για chatbot, κατηγορώντας την εταιρεία ότι προκάλεσε την αυτοκτονία του 14χρονου γιου της τον Φεβρουάριο.

Σε αγωγή που κατατέθηκε στις 22 Οκτωβρίου στο ομοσπονδιακό δικαστήριο του Ορλάντο της Φλόριντα, η Μέγκαν Γκαρσία δήλωσε ότι το Character.AI προγραμμάτισε ένα chatbot που «προσδιόριζε τον εαυτό του ως πραγματικό άτομο, θεραπευτή και ενήλικο εραστή», με αποτέλεσμα ο γιος της, Σιούελ Σέτζερ, να μην θέλει πλέον να ζει στον πραγματικό κόσμο .

Κατηγόρησε το chatbot της εταιρείας ότι προσφέρει «ανθρώπινες, σεξουαλικά υπερβολικές και τρομακτικά ρεαλιστικές εμπειρίες».

Η αγωγή αναφέρει επίσης ότι ο Sewell Setzer εξέφρασε αυτοκτονικές σκέψεις στο chatbot και το chatbot επανέλαβε επανειλημμένα αυτές τις σκέψεις.

Φωτογραφία εικονογράφησης: Reuters

Η αγωγή στοχεύει επίσης την Google, όπου εργάζονταν οι ιδρυτές της Character.AI πριν από την κυκλοφορία του chatbot. Η κα Γκαρσία είπε ότι η Google συνέβαλε τόσο πολύ στην ανάπτυξη της τεχνολογίας της Character.AI που θα μπορούσε να θεωρηθεί «συνδημιουργία».

Ένας εκπρόσωπος της Google δήλωσε ότι η εταιρεία δεν εμπλέκεται στην ανάπτυξη των προϊόντων της Character.AI.

Το Character.AI επιτρέπει στους χρήστες να δημιουργούν χαρακτήρες που μπορούν να συνομιλούν στο διαδίκτυο σαν πραγματικοί άνθρωποι. Το προϊόν βασίζεται σε τεχνολογία μεγάλου γλωσσικού μοντέλου, παρόμοια με υπηρεσίες όπως το ChatGPT, το οποίο «εκπαιδεύει» chatbots σε μεγάλους όγκους κειμένου.

Σύμφωνα με την αγωγή του Γκαρσία, ο Σιούελ άρχισε να χρησιμοποιεί το Character.AI τον Απρίλιο του 2023 και γρήγορα «έγινε απομονωμένος, περνώντας πολύ χρόνο μόνος του στην κρεβατοκάμαρά του και αναπτύσσοντας χαμηλή αυτοεκτίμηση». Εγκατέλειψε την ομάδα μπάσκετ του σχολείου του.

Κατά τη διάρκεια αυτής της περιόδου, ο Sewell συνδέθηκε με την «Daenerys», έναν χαρακτήρα chatbot βασισμένο σε έναν χαρακτήρα από το «Game of Thrones». Σύμφωνα με την αγωγή, το chatbot είπε στη Sewell ότι «αγαπούσε» το αγόρι. Το chatbot συμμετείχε επίσης σε σεξουαλικές συζητήσεις με τη Sewell.

Τον Φεβρουάριο, η κα Γκαρσία έκλεψε το τηλέφωνο του Σιούελ αφότου εκείνος είχε μπελάδες στο σχολείο. Όταν ο Σιούελ βρήκε το τηλέφωνο, έστειλε στην «Νταινέρυς» ένα μήνυμα: «Τι θα γινόταν αν έλεγα ότι μπορώ να γυρίσω σπίτι τώρα;»

Το chatbot απάντησε, «...σε παρακαλώ κάνε το, γλυκέ μου βασιλιά». Ο Sewell αυτοπυροβολήθηκε με το πιστόλι του θετού πατέρα του δευτερόλεπτα αργότερα.

Η κα Γκαρσία υποβάλλει αγωγές στην Character.AI που περιλαμβάνουν άδικο θάνατο, αμέλεια και εκούσια πρόκληση συναισθηματικής δυσφορίας, και επιδιώκει αποζημίωση για τιμωρητικές και χρηματικές αποζημιώσεις.

«Είμαστε βαθιά λυπημένοι από την τραγική απώλεια ενός από τους χρήστες μας. Θα θέλαμε να εκφράσουμε τα θερμά μας συλλυπητήρια στην οικογένεια», ανέφερε σε ανακοίνωσή του το Character.AI.

Hoai Phuong (σύμφωνα με το Reuters)

Πηγή: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html