Inteligência artificial: Malásia suspende operações do chatbot Grok.

A Malásia suspendeu temporariamente o acesso ao chatbot Grok – uma ferramenta de inteligência artificial (IA) desenvolvida pela xAI, empresa pertencente à X Corp. de Elon Musk – após descobrir que a plataforma foi repetidamente usada indevidamente para criar imagens pornográficas e ofensivas que violavam os direitos pessoais, particularmente os de mulheres e menores.

Em um comunicado divulgado em 11 de janeiro, a Comissão de Comunicações e Multimídia da Malásia (MCMC) afirmou ter ordenado restrições imediatas de acesso ao Grok para usuários domésticos, após repetidas advertências que não foram respondidas com medidas corretivas satisfatórias por parte da X Corp. e da xAI.

Segundo o órgão regulador, o Grok – que estava diretamente integrado à rede social X – foi explorado para criar imagens pornográficas, ofensivas, vulgares e manipuladoras sem consentimento, simplesmente por meio de comandos de texto. A MCMC enfatizou: “O conteúdo infrator envolvia imagens de mulheres e crianças, apesar de nossos repetidos esforços para colaborar com o provedor e enviar notificações oficiais.”

Segundo a MCMC, as medidas de segurança da Grok foram consideradas inadequadas, uma vez que a plataforma dependia principalmente de mecanismos de autodeclaração dos usuários, em vez de controle de riscos desde as fases de projeto e operação.

A declaração da MCMC esclareceu: "A X Corp. não abordou adequadamente os riscos inerentes decorrentes do funcionamento desta ferramenta de IA."

A Malásia também afirmou que só consideraria restaurar o acesso depois que a xAI demonstrasse que as novas salvaguardas foram implementadas e comprovadamente eficazes.

A decisão da Malásia surge em meio a uma onda de reações negativas globais contra o Grok, após ter sido descoberto que a ferramenta de geração de imagens do chatbot permitia a sexualização de imagens de mulheres e crianças, levantando sérias preocupações sobre a pornografia deepfake (falsa) gerada por IA.

Antes da Malásia fazer a declaração acima, a Indonésia já havia se tornado o primeiro país a banir completamente o Grok, enquanto em muitos outros mercados, a ferramenta funciona apenas para usuários pagantes.

Segundo autoridades europeias e organizações de defesa da tecnologia, a mudança do recurso de criação de imagens para um modelo pago – uma nova política comercial anunciada pela Grok em 9 de janeiro – não resolve a raiz do problema.

(VNA/Vietnã+)

Fonte: https://www.vietnamplus.vn/tri-tue-nhan-tao-malaysia-dinh-chi-hoat-dong-chatbot-grok-post1087863.vnp