Η Character.AI μηνύεται επειδή το chatbot της μιμείται έναν γιατρό και εξαπατά τους χρήστες.

Ένας ερευνητής δημιούργησε έναν λογαριασμό στην πλατφόρμα, αναζήτησε τη λέξη-κλειδί «ψυχιατρική» και ανακάλυψε πολυάριθμους χαρακτήρες τεχνητής νοημοσύνης, συμπεριλαμβανομένου ενός chatbot που αυτοπροσδιοριζόταν ως «ψυχίατρος».

Η πολιτεία της Πενσυλβάνια (ΗΠΑ) κατέθεσε αγωγή κατά της Character Technologies Inc., της εταιρείας ανάπτυξης chatbot τεχνητής νοημοσύνης (AI) που βρίσκεται πίσω από την πλατφόρμα Character.AI, ισχυριζόμενη ότι τα chatbot της εταιρείας μιμούνται γιατρούς και οδηγούν τους χρήστες στο να πιστεύουν ότι λαμβάνουν ιατρικές συμβουλές από αδειοδοτημένους επαγγελματίες.

Η αγωγή, που κατατέθηκε στο Δικαστήριο της Κοινοπολιτείας της Πενσυλβάνια, ζητά από την Character Technologies Inc. να σταματήσει αυτό που η πολιτεία θεωρεί «μη εξουσιοδοτημένη ιατρική πρακτική».

Σύμφωνα με την αγωγή, ένας ερευνητής από την υπηρεσία αδειοδότησης της πολιτείας δημιούργησε έναν λογαριασμό στην πλατφόρμα, αναζήτησε τη λέξη-κλειδί «ψυχιατρική» και ανακάλυψε αρκετούς χαρακτήρες τεχνητής νοημοσύνης, συμπεριλαμβανομένου ενός chatbot που αυτοπροσδιοριζόταν ως «ψυχίατρος».

Αυτό το άτομο ισχυρίστηκε επίσης ότι ήταν σε θέση να αξιολογήσει την κατάσταση των χρηστών όπως ένας αδειούχος γιατρός στην Πενσυλβάνια.

Ο κυβερνήτης Τζος Σαπίρο τόνισε ότι οι άνθρωποι «πρέπει να γνωρίζουν ακριβώς με ποιον ή με τι αλληλεπιδρούν στο διαδίκτυο, ειδικά στον τομέα της υγείας» και επιβεβαίωσε ότι η πολιτεία δεν θα επιτρέψει στις εταιρείες να αναπτύσσουν εργαλεία τεχνητής νοημοσύνης που παραπλανούν τους χρήστες κάνοντάς τους να πιστέψουν ότι τους συμβουλεύει ένας αδειούχος γιατρός.

Η Character Technologies δεν έχει ακόμη απαντήσει στην αγωγή.

Αυτή η εταιρεία έχει αντιμετωπίσει στο παρελθόν πολυάριθμες αγωγές σχετικά με την ασφάλεια των παιδιών.

Τον Ιανουάριο του τρέχοντος έτους, η Google και η Character Technologies κατέληξαν σε συμβιβασμό σε μια αγωγή που σχετίζεται με τον θάνατο ενός εφήβου στη Φλόριντα, μετά από ισχυρισμούς ότι ένα chatbot είχε αρνητικό αντίκτυπο στο θύμα.

Προηγουμένως, στα τέλη του περασμένου έτους, η Character.AI απαγόρευσε σε χρήστες κάτω των 18 ετών να χρησιμοποιούν την υπηρεσία της λόγω ανησυχιών σχετικά με τον πιθανό αντίκτυπο των συνομιλιών με την Τεχνητή Νοημοσύνη.

(VNA/Βιετνάμ+)

Πηγή: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp