Delstaten Pennsylvania (USA) har stämmat Character Technologies Inc., utvecklaren av chatbotar för artificiell intelligens (AI) bakom plattformen Character.AI, med påståendet att företagets chatbotar utger sig för att vara läkare och får användare att tro att de får medicinska råd från licensierade yrkesverksamma.
Stämningsansökan, som lämnats in till Pennsylvania Commonwealth Court, begär att Character Technologies Inc. ska upphöra med vad delstaten anser vara "otillåten medicinsk verksamhet".
Enligt stämningsansökan skapade en utredare från statens licensmyndighet ett konto på plattformen, sökte efter sökordet "psykiatri" och upptäckte flera AI-karaktärer, inklusive en chatbot som identifierade sig som en "psykiater".
Denna person påstod sig också kunna bedöma användarnas tillstånd likt en legitimerad läkare i Pennsylvania.
Guvernör Josh Shapiro betonade att människor ”måste veta exakt vem eller vad de interagerar med online, särskilt inom hälsosektorn”, och bekräftade att delstaten inte kommer att tillåta företag att använda AI-verktyg som vilseleder användare att tro att de får råd från en legitimerad läkare.
Character Technologies har ännu inte svarat på stämningsansökan.
Detta företag har tidigare ställts inför ett flertal stämningar relaterade till barnsäkerhet.
I januari i år nådde Google och Character Technologies en förlikning i en rättegång relaterad till en tonårings död i Florida, efter anklagelser om att en chatbot hade en negativ inverkan på offret.
Tidigare, i slutet av förra året, förbjöd Character.AI användare under 18 år att använda deras tjänst på grund av oro över den potentiella effekten av samtal med AI:n.
Källa: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp
Kommentar (0)