Las empresas reciben críticas por abusar de la IA

Duolingo recibe comentarios negativos con el nuevo modelo que prioriza la IA. Foto: Unsplash .

Desde su lanzamiento hace casi 3 años, ChatGPT ha creado una fiebre de IA y ha impulsado a las empresas a integrar esta tecnología en sus productos y servicios. Muchas empresas dicen que la IA les ha ayudado a optimizar costos, aumentar la eficiencia e incluso cambiar por completo sus flujos de trabajo.

Sin embargo, el uso de inteligencia artificial es un área bastante sensible y, si no se utiliza adecuadamente, puede causar grandes daños a la reputación. Muchas empresas influyentes han recibido críticas públicas por su uso descontrolado de la IA. Esto demuestra que las opiniones éticas de los usuarios son cada vez más duras.

Cuando la integración de IA fracasa

Hace más de una semana, la aplicación de aprendizaje de idiomas mundialmente popular Duolingo eliminó todo su contenido de redes sociales y reemplazó a sus personajes habituales por un búho de tres ojos, con una sudadera con capucha y un estilo rebelde. A partir del 26 de mayo, la marca ha restaurado las publicaciones originales.

La medida llega después de que la compañía anunciara que cambiaría a un modelo “IA primero” en una publicación de LinkedIn en abril. La publicación incluyó una captura de pantalla de un correo electrónico dirigido a toda la empresa por el director ejecutivo Luis von Ahn, en el que se comparaba el cambio con la transición del escritorio al móvil en 2012.

Sin embargo, no todos están entusiasmados. Algunos usuarios critican que la empresa prioriza la cantidad en lugar de la calidad. Según la firma de análisis de medios CARMA, las discusiones sobre este tema a nivel mundial tienen una proporción de sentimiento de 24,5% positiva y 41,1% negativa.

Las opiniones también están divididas en la industria del gaming, donde la integración de IA está casi normalizada. En una actualización reciente de Fortnite, Epic Games, la compañía propietaria del juego, probó un personaje de Darth Vader totalmente controlado por IA que interactúa con otros jugadores en conversaciones.

Darth Vader usa lenguaje abusivo hacia otros jugadores en Fortnite. Foto: Más SypherPK/YouTube.

El objetivo es hacer que los personajes del juego sean capaces de mantener diálogos más inteligentes y realistas. Sin embargo, Darth Vader, inspirado por el personaje de Star Wars, empezó a decir cosas extrañas o a decir malas palabras, incluso insultando a otros jugadores. Esto demostró que el personaje de IA estaba fuera del control de Epic y la compañía tuvo que corregir el error de inmediato.

Otro ejemplo es Toei Animation, el famoso estudio de animación detrás de One Piece, que planea integrar IA en la producción. Un informe de Screenrant sugiere que la inteligencia artificial estará involucrada en el boceto inicial, el coloreado, la creación de fondos y la animación de personajes.

Esta intención recibió inmediatamente la oposición de la comunidad de fans, alegando que afectaría la calidad y originalidad de Toei. El estudio tuvo que revisar el informe y aclarar que todavía tenían la intención de hacerlo, pero que todos los pasos anteriores ahora los realizan humanos.

¿Qué hacer si aún quieres utilizar IA?

“La transparencia y la orientación al cliente son las bases para construir una estrategia de IA eficaz”, afirmó Anjul Bhambhri, vicepresidente sénior de Adobe Experience Cloud. Si las empresas utilizan IA en sus operaciones, deberían ser abiertas al respecto con sus socios.

Los usuarios se centrarán más en el valor, los resultados creados, no en el proceso. En lugar de enfatizar el uso de IA, hable de beneficios específicos como ahorrar tiempo, mejorar la calidad del servicio o precios más razonables.

El equipo de desarrollo del popular juego Candy Crush Saga dijo que ha aplicado la IA como "técnico logístico". Todd Green, gerente general de la marca, dijo que sin la ayuda de la IA, no podrían garantizar una buena experiencia para los jugadores de más de 18.000 niveles, al mismo tiempo que crean nuevos niveles.

Es necesario utilizar IA para garantizar la calidad en más de 18.000 niveles. Foto: Candy Crush/Youtube.

Además, la IA debería complementar a los humanos, en lugar de reemplazarlos por completo, especialmente en áreas que requieren empatía o creatividad. Los usuarios no odian la IA, no les gusta sentirse reemplazados o engañados.

En las áreas relacionadas con la cultura, la adopción de IA debe implementarse lentamente y es necesario escuchar los comentarios. Darth Vader o One Piece forman parte de los recuerdos de infancia de muchas personas. Cuando la IA destruya esa imagen, el público se sentirá ofendido. La oposición a que Toei Animation utilice IA proviene del temor de que el arte del anime pierda su calidad y esencia, analizó Indiatimes .

Al aplicar esta tecnología a actividades como la atención al cliente, la creación de contenido y la personalización de experiencias, es importante priorizar la ética y la seguridad. Las empresas también necesitan políticas claras sobre seguridad de datos, evitando sesgos y garantizando operaciones justas.

Los clientes comprenden el hecho de que la IA está adquiriendo cada vez mayor importancia en la competencia. Sin embargo, en lugar de evitarlo, las empresas deberían aprender a aprovechar la inteligencia artificial de forma inteligente, como una parte natural de la mejora del servicio, no como una estrategia de marketing controvertida.

Fuente: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html