A China contra-ataca os chatbots de IA.

Os chatbots de IA têm a capacidade de manipular as emoções dos usuários. Foto: AFP .

A China planeja reforçar o controle sobre chatbots de IA capazes de influenciar as emoções humanas, especialmente aqueles com conteúdo que promove suicídio, automutilação ou outros comportamentos prejudiciais. Essa medida consta de uma minuta de novas regulamentações divulgada pela Administração do Ciberespaço da China em 27 de dezembro.

Segundo a tradução do documento feita pela CNBC , a proposta visa "serviços de inteligência artificial interativos semelhantes aos humanos", ou seja, sistemas de IA capazes de imitar a personalidade, o comportamento e a comunicação humana por meio de texto, imagens, áudio ou vídeo . Essas regulamentações se aplicarão a todos os produtos e serviços de IA oferecidos publicamente na China, assim que forem finalizadas. O período para consulta pública se estende até 25 de janeiro.

Winston Ma, professor visitante da Faculdade de Direito da Universidade de Nova York (NYU), acredita que esta pode ser a primeira tentativa mundial de estabelecer uma estrutura legal específica para sistemas de IA com características "semelhantes às humanas". Ele observa que essa proposta surge em um momento em que empresas chinesas estão acelerando o desenvolvimento de assistentes virtuais de IA.

Em comparação com as regulamentações de IA da China emitidas em 2023, o Sr. Ma acredita que a nova versão preliminar mostra uma mudança de foco da "segurança do conteúdo" para a "segurança emocional", refletindo a crescente preocupação com o impacto psicológico da IA nos usuários.

O projeto de regulamentação estabelece que os chatbots de IA não devem criar conteúdo que incentive o suicídio, a automutilação ou a violência verbal, nem qualquer forma de manipulação emocional que prejudique a saúde mental. Nos casos em que um usuário expressar intenções suicidas, o provedor de serviços tecnológicos deve designar alguém para assumir a conversa e contatar imediatamente o responsável legal ou a pessoa designada pelo usuário.

Além disso, os chatbots de IA estão proibidos de criar conteúdo relacionado a jogos de azar, pornografia ou violência. Menores de idade só podem usar IA para apoio emocional com o consentimento de um responsável e devem respeitar os limites de tempo.

Chatbot de IA, irmão 1

A China está endurecendo as regulamentações sobre chatbots com inteligência artificial. Foto: Bloomberg .

A proposta foi anunciada pouco depois de duas importantes startups chinesas de chatbots com IA, Z.ai e Minimax, terem apresentado pedidos de oferta pública inicial (IPO) em Hong Kong, em dezembro.

A Minimax é conhecida pelo seu aplicativo de IA Talkie e pela sua versão nacional, Xingye, que representou mais de um terço da receita da empresa nos três primeiros trimestres do ano, com uma média de mais de 20 milhões de usuários ativos mensais. Enquanto isso, a Z.ai (Zhipu) afirmou que sua tecnologia foi implementada em aproximadamente 80 milhões de dispositivos, embora não tenha divulgado números específicos de usuários ativos.

Em um contexto global, o impacto da IA na saúde mental humana está recebendo cada vez mais atenção, à medida que muitos países e empresas de tecnologia começam a enfrentar os riscos sociais representados por essa tecnologia.

Fonte: https://znews.vn/trung-quoc-ra-don-voi-chatbot-ai-post1615236.html