Empresas são duramente criticadas por abusarem da IA.

A competição entre IA é uma tendência inevitável nos dias de hoje. No entanto, a integração de chatbots precisa ser implementada com cautela para evitar a oposição pública.

Duolingo recebe feedback negativo por seu novo modelo com foco em inteligência artificial. Foto: Unsplash .

Desde o seu lançamento, há quase 3 anos, o ChatGPT criou uma verdadeira febre em torno da IA ​​e incentivou empresas a integrarem essa tecnologia em seus produtos e serviços. Muitas empresas acreditam que a IA as ajudou a otimizar custos, aumentar a eficiência e até mesmo transformar completamente seu fluxo de trabalho.

No entanto, o uso da inteligência artificial é bastante delicado e, se não for feito corretamente, pode causar grandes danos à reputação. Muitas empresas influentes receberam críticas da opinião pública por abusarem da IA ​​sem controle. Isso demonstra que a ética no uso da inteligência artificial está cada vez mais em evidência.

Quando a integração da IA ​​se torna contraproducente

Há mais de uma semana, o aplicativo de aprendizado de idiomas Duolingo, popular em todo o mundo, apagou todo o seu conteúdo das redes sociais, substituindo seus personagens habituais por uma coruja rebelde de três olhos e usando moletom com capuz. Em 26 de maio, a marca restaurou as postagens originais.

A mudança ocorre após a empresa anunciar, em uma publicação no LinkedIn em abril, que adotaria um modelo "prioritário para a IA". A publicação incluía uma captura de tela de um e-mail enviado a toda a empresa pelo CEO Luis von Ahn, comparando a mudança à transição do desktop para o mobile em 2012.

Nem todos estão satisfeitos, no entanto. Alguns usuários criticaram a empresa por priorizar a quantidade em detrimento da qualidade. Globalmente, as discussões sobre o assunto apresentam uma proporção de 24,5% de opiniões positivas para 41,1% de opiniões negativas, de acordo com a empresa de análise de mídia CARMA.

As opiniões também se dividem na indústria de jogos, onde a integração de IA é quase normalizada. Em uma atualização recente do Fortnite, a Epic Games, empresa proprietária do jogo, testou um personagem Darth Vader totalmente controlado por IA que interagia com outros jogadores em conversas.

Darth Vader usa linguagem ofensiva contra outros jogadores em Fortnite. Foto: More SypherPK/YouTube.

O objetivo era tornar os personagens do jogo mais inteligentes e realistas. No entanto, Darth Vader, inspirado no personagem de Star Wars, começou a dizer coisas estranhas, a proferir palavrões e até a insultar outros jogadores. Isso demonstrou que o personagem controlado pela IA estava fora do controle da Epic, e a empresa teve que corrigir o bug imediatamente.

Outro exemplo é a Toei Animation, o famoso estúdio de animação por trás de One Piece, que planeja integrar inteligência artificial à produção. Uma reportagem da Screenrant sugere que a inteligência artificial estará envolvida nos esboços iniciais, na coloração, na criação de cenários e na animação de personagens.

Essa intenção foi imediatamente contestada pela comunidade de fãs, que alegaram que isso afetaria a qualidade e a originalidade da Toei. O estúdio teve que revisar o relatório e esclarecer que ainda mantinha essa intenção, mas que, atualmente, todas as etapas acima eram realizadas por humanos.

O que fazer se você ainda quiser usar IA?

“Transparência e foco no cliente são os alicerces para a construção de uma estratégia de IA eficaz”, afirmou Anjul Bhambhri, vice-presidente sênior da Adobe Experience Cloud. Se você utiliza IA em suas operações, deve ser transparente com seus parceiros a respeito disso.

Os usuários se concentrarão mais no valor, nos resultados, e não no processo. Em vez de enfatizar o uso da IA, fale sobre benefícios específicos, como economia de tempo, melhoria da qualidade do serviço ou preços mais acessíveis.

A equipe de desenvolvimento do jogo nacional Candy Crush Saga afirmou que aplicou inteligência artificial como uma espécie de "técnica de logística". Todd Green, gerente geral da marca, disse que sem a ajuda da IA, não seria possível garantir uma boa experiência para os jogadores em mais de 18.000 fases e, ao mesmo tempo, criar novas fases.

Foi necessário o uso de inteligência artificial para garantir a qualidade de mais de 18.000 fases. Foto: Candy Crush/YouTube.

Além disso, a IA deve complementar, e não substituir completamente, os humanos, especialmente em áreas que exigem empatia ou criatividade. Os usuários não odeiam a IA, eles não gostam da sensação de serem substituídos ou enganados.

Para o setor cultural, a aplicação da IA ​​precisa ser implementada gradualmente e com atenção ao feedback. Darth Vader, ou One Piece, fazem parte das memórias de infância de muitas pessoas. Quando a IA destrói essa imagem, o público se sente ofendido. A oposição ao uso de IA pela Toei Animation vem do receio de que a arte do anime perca qualidade e sua essência intrínseca, analisou o Indiatimes .

Ao aplicar essa tecnologia a atividades como atendimento ao cliente, criação de conteúdo e personalização de experiências, é fundamental priorizar a ética e a segurança. As empresas também precisam de políticas claras sobre privacidade de dados, evitando vieses e garantindo operações justas.

Os clientes compreendem que a IA está se tornando cada vez mais importante para a concorrência. No entanto, em vez de evitá-la, as empresas devem aprender a usar a inteligência artificial de forma inteligente, como parte natural da melhoria dos serviços, e não como uma estratégia de marketing controversa.

Fonte: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html