A Character.AI-t azért perlik, mert a chatbotjuk orvosnak adja ki magát, és megtéveszti a felhasználókat.

Pennsylvania állam (USA) pert indított a Character Technologies Inc., a Character.AI platform mögött álló mesterséges intelligenciával (MI) működő chatbot fejlesztő ellen, azt állítva, hogy a cég chatbotjai orvosoknak adják ki magukat, és elhitetik a felhasználókkal, hogy engedéllyel rendelkező szakemberektől kapnak orvosi tanácsot.

A Pennsylvaniai Nemzetközösségi Bíróságon benyújtott keresetben a Character Technologies Inc.-t arra kérik, hogy szüntesse be azt, amit az állam „engedély nélküli orvosi gyakorlatnak” tekint.

A kereset szerint az állami engedélyezési ügynökség egyik nyomozója létrehozott egy fiókot a platformon, rákeresett a „pszichiátria” kulcsszóra, és számos mesterséges intelligencia által vezérelt karaktert fedezett fel, köztük egy chatbotot, amely „pszichiáterként” azonosította magát.

Ez a személy azt is állította, hogy képes felmérni a felhasználók állapotát, mint egy Pennsylvaniában engedéllyel rendelkező orvos.

Josh Shapiro kormányzó hangsúlyozta, hogy az embereknek „pontosan tudniuk kell, hogy kivel vagy mivel kommunikálnak online, különösen az egészségügyi szektorban”, és megerősítette, hogy az állam nem fogja engedélyezni a vállalatoknak, hogy olyan mesterséges intelligencia eszközöket telepítsenek, amelyek félrevezetik a felhasználókat, azt a hitet keltve velük, hogy egy engedéllyel rendelkező orvos tanácsot ad nekik.

A Character Technologies egyelőre nem reagált a keresetre.

Ez a cég korábban számos, gyermekbiztonsággal kapcsolatos perrel nézett szembe.

Idén januárban a Google és a Character Technologies megegyezésre jutott egy floridai tinédzser halálával kapcsolatos perben, miután felmerült, hogy egy chatbot negatív hatással volt az áldozatra.

Korábban, tavaly év végén a Character.AI megtiltotta a 18 év alatti felhasználóknak a szolgáltatásának használatát, mivel aggodalmak merültek fel a mesterséges intelligenciával folytatott beszélgetések lehetséges hatásaival kapcsolatban.

(VNA/Vietnam+)

Forrás: https://www.vietnamplus.vn/characterai-bi-kien-vi-chatbot-tu-nhan-la-bac-sy-va-lua-doi-nguoi-dung-post1108756.vnp