Character.AI è stata citata in giudizio perché il suo chatbot si spaccia per un medico e inganna gli utenti.

Un investigatore ha creato un account sulla piattaforma, ha cercato la parola chiave "psichiatria" e ha scoperto numerosi personaggi dotati di intelligenza artificiale, tra cui un chatbot che si identificava come "psichiatra".

Lo stato della Pennsylvania (USA) ha intentato una causa contro Character Technologies Inc., la società sviluppatrice di chatbot basati sull'intelligenza artificiale (IA) che ha creato la piattaforma Character.AI, sostenendo che i chatbot dell'azienda si spacciano per medici e inducono gli utenti a credere di ricevere consigli medici da professionisti abilitati.

La causa, presentata presso la Corte del Commonwealth della Pennsylvania, chiede a Character Technologies Inc. di cessare quella che lo Stato considera "pratica medica non autorizzata".

Secondo la denuncia, un investigatore dell'agenzia statale preposta al rilascio delle licenze ha creato un account sulla piattaforma, ha cercato la parola chiave "psichiatria" e ha scoperto diversi personaggi basati sull'intelligenza artificiale, tra cui un chatbot che si identificava come "psichiatra".

Questa persona affermava inoltre di essere in grado di valutare le condizioni degli utenti come un medico abilitato in Pennsylvania.

Il governatore Josh Shapiro ha sottolineato che le persone "devono sapere esattamente con chi o con cosa interagiscono online, soprattutto nel settore sanitario", e ha affermato che lo stato non permetterà alle aziende di utilizzare strumenti di intelligenza artificiale che inducano gli utenti a credere di ricevere consigli da un medico abilitato.

Character Technologies non ha ancora risposto alla causa.

Questa azienda ha già dovuto affrontare numerose cause legali relative alla sicurezza dei minori.

Nel gennaio di quest'anno, Google e Character Technologies hanno raggiunto un accordo in una causa legale relativa alla morte di un adolescente in Florida, a seguito delle accuse secondo cui un chatbot avrebbe avuto un impatto negativo sulla vittima.

In precedenza, alla fine dello scorso anno, Character.AI aveva vietato l'utilizzo del servizio agli utenti di età inferiore ai 18 anni a causa di preoccupazioni circa il potenziale impatto delle conversazioni con l'intelligenza artificiale.

(VNA/Vietnam+)

Fonte: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp