Character.AI blir saksøkt fordi chatboten deres utgir seg for å være lege og lurer brukere.

En etterforsker opprettet en konto på plattformen, søkte etter søkeordet «psykiatri» og oppdaget en rekke AI-figurer, inkludert en chatbot som identifiserte seg selv som en «psykiater».

Staten Pennsylvania (USA) har anlagt søksmål mot Character Technologies Inc., utvikleren av kunstig intelligens (KI)-chatboter bak Character.AI-plattformen, med påstand om at selskapets chatboter utgir seg for å være leger og får brukerne til å tro at de mottar medisinske råd fra autoriserte fagfolk.

Søksmålet, som er anlagt ved Pennsylvania Commonwealth Court, ber Character Technologies Inc. om å opphøre det staten anser som «uautorisert medisinsk praksis».

Ifølge søksmålet opprettet en etterforsker fra statens lisensbyrå en konto på plattformen, søkte etter søkeordet «psykiatri» og oppdaget flere AI-figurer, inkludert en chatbot som identifiserte seg selv som en «psykiater».

Denne personen hevdet også å kunne vurdere brukernes tilstander slik en autorisert lege i Pennsylvania kunne gjøre.

Guvernør Josh Shapiro understreket at folk «må vite nøyaktig hvem eller hva de samhandler med på nettet, spesielt i helsesektoren», og bekreftet at staten ikke vil tillate selskaper å bruke AI-verktøy som villeder brukere til å tro at de blir rådgitt av en autorisert lege.

Character Technologies har ennå ikke svart på søksmålet.

Dette selskapet har tidligere blitt utsatt for en rekke søksmål knyttet til barnesikkerhet.

I januar i år inngikk Google og Character Technologies et forlik i en rettssak knyttet til dødsfallet til en tenåring i Florida, etter påstander om at en chatbot hadde en negativ innvirkning på offeret.

Tidligere, sent i fjor, utestengte Character.AI brukere under 18 år fra å bruke tjenesten deres på grunn av bekymringer om den potensielle effekten av samtaler med AI-en.

(VNA/Vietnam+)

Kilde: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp