Character.AI disaman kerana chatbotnya menyamar sebagai doktor dan memperdaya pengguna.

Seorang penyiasat telah mencipta akaun di platform tersebut, mencari kata kunci "psikiatri" dan menemui pelbagai aksara AI, termasuk chatbot yang mengenal pasti dirinya sebagai "pakar psikiatri".

Negeri Pennsylvania (AS) telah memfailkan saman terhadap Character Technologies Inc., pembangun chatbot kecerdasan buatan (AI) di sebalik platform Character.AI, mendakwa bahawa chatbot syarikat itu menyamar sebagai doktor dan membuat pengguna percaya bahawa mereka menerima nasihat perubatan daripada profesional berlesen.

Saman itu, yang difailkan di Mahkamah Komanwel Pennsylvania, meminta Character Technologies Inc. untuk menghentikan apa yang dianggap oleh negeri sebagai "amalan perubatan tanpa kebenaran."

Menurut tuntutan mahkamah itu, seorang penyiasat dari agensi pelesenan negeri telah membuat akaun di platform tersebut, mencari kata kunci "psikiatri" dan menemui beberapa aksara AI, termasuk chatbot yang mengenal pasti dirinya sebagai "pakar psikiatri".

Individu ini juga mendakwa dapat menilai keadaan pengguna seperti seorang doktor berlesen di Pennsylvania.

Gabenor Josh Shapiro menekankan bahawa orang ramai “perlu tahu dengan tepat siapa atau apa yang mereka berinteraksi dalam talian, terutamanya dalam sektor kesihatan,” dan mengesahkan bahawa negeri itu tidak akan membenarkan syarikat menggunakan alatan AI yang mengelirukan pengguna untuk mempercayai bahawa mereka dinasihatkan oleh doktor berlesen.

Character Technologies masih belum memberi maklum balas terhadap tuntutan mahkamah tersebut.

Syarikat ini sebelum ini telah menghadapi pelbagai tuntutan mahkamah berkaitan keselamatan kanak-kanak.

Pada bulan Januari tahun ini, Google dan Character Technologies mencapai penyelesaian dalam tuntutan mahkamah berkaitan kematian seorang remaja di Florida, susulan dakwaan bahawa chatbot mempunyai kesan negatif terhadap mangsa.

Sebelum ini, lewat tahun lalu, Character.AI mengharamkan pengguna di bawah umur 18 tahun daripada menggunakan perkhidmatannya kerana kebimbangan tentang potensi kesan perbualan dengan AI.

(VNA/Vietnam+)

Sumber: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp