Las empresas reciben críticas por abusar de la IA

La competencia en IA es una tendencia inevitable hoy en día. Sin embargo, la integración de chatbots debe implementarse con cuidado para evitar la oposición pública.

Duolingo recibe comentarios negativos por su nuevo modelo basado en IA. Foto: Unsplash .

Desde su lanzamiento hace casi 3 años, ChatGPT ha generado un gran revuelo por la IA y ha animado a las empresas a integrar esta tecnología en sus productos y servicios. Muchas empresas creen que la IA les ha ayudado a optimizar costes, aumentar la eficiencia e incluso a transformar por completo su flujo de trabajo.

Sin embargo, el uso de la inteligencia artificial es bastante delicado y, si no se realiza correctamente, puede causar un gran daño a la reputación. Muchas empresas influyentes han recibido críticas de la opinión pública por abusar de la IA sin control. Esto demuestra que las opiniones de los usuarios sobre la ética son cada vez más severas.

Cuando la integración de la IA fracasa

Hace más de una semana, la popular app de aprendizaje de idiomas Duolingo borró todo su contenido de redes sociales y reemplazó a sus personajes habituales por un búho rebelde con capucha y tres ojos. Para el 26 de mayo, la marca había restaurado las publicaciones originales.

Esta decisión se produce después de que la compañía anunciara en abril su transición a un modelo centrado en la IA en una publicación de LinkedIn. La publicación incluía una captura de pantalla de un correo electrónico dirigido a toda la empresa por el director ejecutivo, Luis von Ahn, en el que se comparaba la transición con la de ordenadores de escritorio a dispositivos móviles en 2012.

Sin embargo, no todos están entusiasmados. Algunos usuarios han criticado a la compañía por priorizar la cantidad sobre la calidad. A nivel mundial, las discusiones sobre el tema tienen una proporción de opiniones del 24,5 % positivas frente al 41,1 % negativas, según la firma de análisis de medios CARMA.

Las opiniones también están divididas en la industria de los videojuegos, donde la integración de la IA está prácticamente normalizada. En una actualización reciente de Fortnite, Epic Games, la compañía propietaria del juego, probó un personaje de Darth Vader totalmente controlado por IA que interactuaba con otros jugadores mediante conversaciones.

Darth Vader usa lenguaje ofensivo hacia otros jugadores en Fortnite. Foto: More SypherPK/YouTube.

El objetivo era hacer que los personajes del juego fueran más inteligentes y realistas. Sin embargo, Darth Vader, inspirado en el personaje de Star Wars, empezó a decir cosas extrañas o a decir palabrotas, incluso insultando a otros jugadores. Esto demostró que el personaje de IA estaba fuera del control de Epic, y la compañía tuvo que corregir el error de inmediato.

Otro ejemplo es Toei Animation, el famoso estudio de animación responsable de One Piece, que planea integrar IA en la producción. Un informe de Screenrant sugiere que la inteligencia artificial participará en el boceto inicial, el coloreado, la creación de fondos y la animación de personajes.

Esta intención recibió la oposición inmediata de la comunidad de fans, alegando que afectaría la calidad y originalidad de Toei. El estudio tuvo que revisar el informe y aclarar que mantenían esa intención, pero que actualmente todos los pasos mencionados eran realizados por humanos.

¿Qué hacer si aún quieres utilizar IA?

“La transparencia y la orientación al cliente son la base para construir una estrategia de IA eficaz”, afirmó Anjul Bhambhri, vicepresidente sénior de Adobe Experience Cloud. Si utiliza IA en sus operaciones, debe ser transparente al respecto con sus socios.

Los usuarios se centrarán más en el valor, en los resultados, no en el proceso. En lugar de enfatizar el uso de la IA, hablen de beneficios específicos como el ahorro de tiempo, la mejora de la calidad del servicio o precios más razonables.

El equipo de desarrollo del juego nacional Candy Crush Saga afirmó haber aplicado la IA como "técnico logístico". Todd Green, director general de la marca, afirmó que sin la ayuda de la IA, no podrían garantizar una buena experiencia para los jugadores de más de 18 000 niveles ni, al mismo tiempo, crear nuevos niveles.

Se necesitaba IA para garantizar la calidad de más de 18.000 niveles. Foto: Candy Crush/Youtube.

Además, la IA debería complementar, no reemplazar por completo, a los humanos, especialmente en áreas que requieren empatía o creatividad. Los usuarios no odian la IA, no les gusta sentirse reemplazados o engañados.

Para el sector cultural, la aplicación de la IA debe implementarse con lentitud y escuchar las opiniones. Darth Vader o One Piece forman parte de los recuerdos de infancia de muchas personas. Cuando la IA destruya esa imagen, el público se sentirá ofendido. La oposición al uso de IA por parte de Toei Animation se debe al temor de que el arte del anime pierda calidad y su esencia inherente, según analizó Indiatimes .

Al aplicar esta tecnología a actividades como la atención al cliente, la creación de contenido y la personalización de experiencias, es importante priorizar la ética y la seguridad. Las empresas también necesitan políticas claras sobre privacidad de datos, evitar sesgos y garantizar operaciones justas.

Los clientes comprenden que la IA es cada vez más importante para la competencia. Sin embargo, en lugar de evitarla, las empresas deberían aprender a usar la inteligencia artificial con prudencia, como parte natural de la mejora del servicio, no como una estrategia de marketing controvertida.

Fuente: https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html