Les entreprises « prennent des balles » pour avoir abusé de l'IA

Duolingo reçoit des commentaires négatifs avec son nouveau modèle basé sur l'IA. Photo : Unsplash .

Depuis son lancement il y a près de 3 ans, ChatGPT a créé une fièvre de l'IA et a incité les entreprises à intégrer cette technologie dans leurs produits et services. De nombreuses entreprises affirment que l’IA les a aidées à optimiser leurs coûts, à accroître leur efficacité et même à changer complètement leurs flux de travail.

Cependant, l’utilisation de l’intelligence artificielle est un domaine plutôt sensible et, si elle n’est pas utilisée correctement, elle peut causer de graves dommages à la réputation. De nombreuses entreprises influentes ont été critiquées publiquement pour leur utilisation incontrôlée de l’IA. Cela montre que les opinions éthiques des utilisateurs deviennent de plus en plus dures.

Quand l'intégration de l'IA se retourne contre vous

Il y a plus d'une semaine, l'application d'apprentissage des langues mondialement populaire Duolingo a supprimé tout son contenu sur les réseaux sociaux, remplaçant ses personnages habituels par un hibou à trois yeux portant un sweat à capuche et au style rebelle. Depuis le 26 mai, la marque a restauré les messages originaux.

Cette décision intervient après que l’entreprise a annoncé qu’elle passerait à un modèle « IA d’abord » dans une publication LinkedIn en avril. L'article comprenait une capture d'écran d'un e-mail envoyé à l'ensemble de l'entreprise par le PDG Luis von Ahn, comparant cette transition au passage du bureau au mobile en 2012.

Cependant, tout le monde n’est pas enthousiaste. Certains utilisateurs critiquent le fait que l’entreprise privilégie la quantité plutôt que la qualité. Selon le cabinet d'analyse des médias CARMA, les discussions autour de ce sujet à l'échelle mondiale ont un ratio de sentiment de 24,5 % positif et de 41,1 % négatif.

Les avis sont également mitigés dans l’industrie du jeu, où l’intégration de l’IA est presque normalisée. Dans une récente mise à jour de Fortnite, Epic Games, la société propriétaire du jeu, a testé un personnage de Dark Vador entièrement contrôlé par l'IA qui interagit avec d'autres joueurs dans une conversation.

Dark Vador utilise un langage abusif envers les autres joueurs de Fortnite. Photo : Plus SypherPK/YouTube.

L’objectif est de rendre les personnages du jeu capables de dialoguer de manière plus intelligente et plus réaliste. Cependant, Dark Vador, inspiré par le personnage de Star Wars, a commencé à dire des choses étranges ou à jurer, voire à insulter les autres joueurs. Cela a montré que le personnage IA était hors du contrôle d'Epic et que l'entreprise devait immédiatement corriger le bug.

Un autre exemple est celui de Toei Animation, le célèbre studio d’animation à l’origine de One Piece, qui prévoit d’intégrer l’IA dans la production. Un rapport de Screenrant suggère que l'intelligence artificielle sera impliquée dans le dessin initial, la coloration, la création d'arrière-plan et l'animation des personnages.

Cette intention a immédiatement suscité l'opposition de la communauté des fans, affirmant que cela affecterait la qualité et l'originalité de Toei. Le studio a dû examiner le rapport et clarifier qu'il avait toujours l'intention de le faire, mais que toutes les étapes ci-dessus sont désormais effectuées par des humains.

Que faire si vous souhaitez toujours utiliser l’IA ?

« La transparence et l’orientation client sont les fondements de la construction d’une stratégie d’IA efficace », a déclaré Anjul Bhambhri, vice-président senior d’Adobe Experience Cloud. Si les entreprises utilisent l’IA dans leurs opérations, elles doivent en parler ouvertement à leurs partenaires.

Les utilisateurs se concentreront davantage sur la valeur, les résultats créés, et non sur le processus. Au lieu de mettre l’accent sur l’utilisation de l’IA, parlez d’avantages spécifiques comme le gain de temps, l’amélioration de la qualité du service ou des prix plus raisonnables.

L'équipe de développement du jeu populaire Candy Crush Saga a déclaré avoir utilisé l'IA comme « technicien logistique ». Todd Green, directeur général de la marque, a déclaré que sans l'aide de l'IA, ils ne seraient pas en mesure de garantir une bonne expérience aux joueurs de plus de 18 000 niveaux, tout en créant de nouveaux niveaux.

L’IA doit être utilisée pour garantir la qualité de plus de 18 000 niveaux. Photo : Candy Crush/Youtube.

De plus, l’IA devrait compléter plutôt que remplacer complètement les humains, en particulier dans les domaines qui nécessitent de l’empathie ou de la créativité. Les utilisateurs ne détestent pas l’IA, ils n’aiment pas se sentir remplacés ou trompés.

Pour les domaines liés à la culture, l’adoption de l’IA doit être déployée lentement et les commentaires doivent être écoutés. Dark Vador ou One Piece font partie des souvenirs d'enfance de nombreuses personnes. Lorsque l’IA détruira cette image, le public se sentira offensé. L'opposition à l'utilisation de l'IA par Toei Animation vient de la peur que l'art de l'anime perde sa qualité et son essence, a analysé Indiatimes .

Lors de l’application de cette technologie à des activités telles que le service client, la création de contenu et la personnalisation des expériences, il est important de donner la priorité à l’éthique et à la sécurité. Les entreprises ont également besoin de politiques claires en matière de sécurité des données, évitant les préjugés et garantissant des opérations équitables.

Les clients comprennent que l’IA devient de plus en plus importante dans la concurrence. Cependant, au lieu de l’éviter, les entreprises devraient apprendre à exploiter l’intelligence artificielle de manière judicieuse, comme un élément naturel de l’amélioration du service, et non comme une stratégie marketing controversée.

Source : https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html