Čína se vrací na chatboty s umělou inteligencí.

Chatboti s umělou inteligencí mají schopnost manipulovat s emocemi uživatelů. Foto: AFP .

Čína plánuje zpřísnit kontrolu nad chatboty s umělou inteligencí, kteří jsou schopni ovlivňovat lidské emoce, zejména těch s obsahem propagujícím sebevraždu, sebepoškozování nebo jiné škodlivé chování. Tento krok je nastíněn v návrhu nových předpisů, které 27. prosince zveřejnil Čínský úřad pro kyberprostor.

Podle překladu dokumentu CNBC se návrh zaměřuje na „interaktivní služby umělé inteligence podobné lidským“, což znamená systémy umělé inteligence schopné napodobovat lidskou osobnost, chování a komunikaci prostřednictvím textu, obrázků, zvuku nebo videa . Tato nařízení se po dokončení budou vztahovat na všechny produkty a služby umělé inteligence veřejně nabízené v Číně. Období pro veřejné připomínky je prodlouženo do 25. ledna.

Winston Ma, hostující profesor na Právnické fakultě Newyorské univerzity (NYU), se domnívá, že by se mohlo jednat o první pokus na světě o vytvoření právního rámce konkrétně pro systémy umělé inteligence s „lidskými“ vlastnostmi. Poznamenává, že tento návrh přichází v době, kdy čínské společnosti urychlují vývoj virtuálních asistentů s umělou inteligencí.

Ve srovnání s čínskými předpisy pro umělou inteligenci vydanými v roce 2023 se pan Ma domnívá, že nový návrh ukazuje posun v zaměření od „bezpečnosti obsahu“ k „emoční bezpečnosti“, což odráží rostoucí obavy z psychologického dopadu umělé inteligence na uživatele.

Návrh nařízení stanoví, že chatboti s umělou inteligencí nesmí vytvářet obsah, který podněcuje k sebevraždě, sebepoškozování nebo verbálnímu násilí, ani žádnou formu emocionální manipulace, která poškozuje duševní zdraví. V případech, kdy uživatel projeví sebevražedné úmysly, musí poskytovatel technologických služeb nechat někoho, kdo převezme konverzaci, a okamžitě kontaktovat opatrovníka uživatele nebo určenou osobu.

Chatboti s umělou inteligencí nesmí dále vytvářet obsah související s hazardními hrami, pornografií nebo násilím. Nezletilí mohou používat umělou inteligenci k emocionální podpoře pouze se souhlasem zákonného zástupce a musí dodržovat časové limity.

Chatbot s umělou inteligencí, bratr 1

Čína zpřísňuje regulaci chatbotů s umělou inteligencí. Foto: Bloomberg .

Návrh byl oznámen krátce poté, co dva velké čínské startupy zabývající se chatboty s umělou inteligencí, Z.ai a Minimax, v prosinci podaly žádosti o primární veřejnou nabídku akcií (IPO) v Hongkongu.

Společnost Minimax je známá svou aplikací Talkie AI a její domácí verzí Xingye, která se v prvních třech čtvrtletích roku podílela na více než třetině tržeb společnosti s průměrným počtem přes 20 milionů aktivních uživatelů měsíčně. Společnost Z.ai (Zhipu) mezitím uvedla, že její technologie byla nasazena na přibližně 80 milionech zařízení, ačkoli nezveřejnila konkrétní počet aktivních uživatelů.

V globálním kontextu se dopadu umělé inteligence na lidské duševní zdraví věnuje stále větší pozornost, jelikož mnoho zemí a technologických společností se začíná potýkat se sociálními riziky, která tato technologie představuje.

Zdroj: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html