Les entreprises « essuient des critiques » pour avoir abusé de l'IA

La concurrence en matière d'IA est aujourd'hui une tendance incontournable. Cependant, l'intégration des chatbots doit être déployée avec précaution afin d'éviter l'opposition du public.

Duolingo reçoit des critiques négatives concernant son nouveau modèle axé sur l'IA. Photo : Unsplash .

Depuis son lancement il y a près de trois ans, ChatGPT a suscité un véritable engouement pour l'IA et incité les entreprises à intégrer cette technologie à leurs produits et services. Nombre d'entre elles estiment que l'IA les a aidées à optimiser leurs coûts, à accroître leur efficacité, voire à transformer radicalement leurs processus de travail.

Cependant, l'utilisation de l'intelligence artificielle est un sujet délicat ; mal maîtrisée, elle peut nuire gravement à la réputation. De nombreuses entreprises influentes ont été critiquées par l'opinion publique pour avoir abusé de l'IA sans contrôle. Cela témoigne d'une exigence croissante des utilisateurs en matière d'éthique.

Quand l'intégration de l'IA se retourne contre ses auteurs

Il y a plus d'une semaine, Duolingo, l'application d'apprentissage des langues mondialement populaire, a supprimé tout son contenu sur les réseaux sociaux, remplaçant ses personnages habituels par une chouette à trois yeux rebelle, vêtue d'un sweat à capuche. Le 26 mai, la marque a rétabli les publications originales.

Cette décision fait suite à l'annonce, en avril dernier sur LinkedIn, de la transition de l'entreprise vers un modèle axé sur l'IA. La publication comprenait une capture d'écran d'un courriel interne du PDG Luis von Ahn, établissant un parallèle avec la transition du desktop vers le mobile en 2012.

Cependant, tout le monde n'est pas ravi. Certains utilisateurs reprochent à l'entreprise de privilégier la quantité à la qualité. À l'échelle mondiale, les discussions sur ce sujet affichent un ratio de 24,5 % d'opinions positives contre 41,1 % d'opinions négatives, selon la société d'analyse des médias CARMA.

Les avis divergent également dans l'industrie du jeu vidéo, où l'intégration de l'IA est pourtant devenue presque la norme. Lors d'une récente mise à jour de Fortnite, Epic Games, la société propriétaire du jeu, a testé un personnage de Dark Vador entièrement contrôlé par une IA, capable d'interagir avec les autres joueurs.

Dark Vador profère des insultes envers d'autres joueurs dans Fortnite. Photo : More SypherPK/YouTube.

L'objectif était de rendre les personnages du jeu plus intelligents et réalistes. Cependant, Dark Vador, inspiré du personnage de Star Wars, s'est mis à tenir des propos étranges, à jurer et même à insulter les autres joueurs. Cela a démontré que l'IA du personnage échappait au contrôle d'Epic, et l'entreprise a dû corriger le bug immédiatement.

Toei Animation, le célèbre studio d'animation à l'origine de One Piece, prévoit d'intégrer l'IA à sa production. Selon un article de Screenrant, l'intelligence artificielle interviendra dès les premières étapes : esquisses, colorisation, création des décors et animation des personnages.

Cette intention a immédiatement suscité l'opposition des fans, qui craignaient qu'elle nuise à la qualité et à l'originalité des productions Toei. Le studio a dû revoir le rapport et préciser que son intention était toujours d'agir ainsi, mais que toutes les étapes mentionnées étaient désormais réalisées manuellement.

Que faire si vous souhaitez toujours utiliser l'IA ?

« La transparence et l'orientation client sont les fondements d'une stratégie d'IA efficace », a déclaré Anjul Bhambhri, vice-présidente senior d'Adobe Experience Cloud. Si vous utilisez l'IA dans vos opérations, vous devez en informer ouvertement vos partenaires.

Les utilisateurs privilégieront la valeur ajoutée, les résultats, plutôt que le processus. Au lieu de mettre l'accent sur l'utilisation de l'IA, parlez des avantages concrets tels que le gain de temps, l'amélioration de la qualité du service ou des prix plus raisonnables.

L'équipe de développement du jeu national Candy Crush Saga a déclaré avoir utilisé l'IA comme « technicien logistique ». Todd Green, directeur général de la marque, a expliqué que sans l'aide de l'IA, il leur serait impossible de garantir une expérience optimale aux joueurs sur plus de 18 000 niveaux, tout en créant de nouveaux niveaux.

L'intelligence artificielle a été nécessaire pour garantir la qualité de plus de 18 000 niveaux. Photo : Candy Crush/YouTube.

De plus, l'IA devrait compléter, et non remplacer complètement, les humains, notamment dans les domaines qui requièrent de l'empathie ou de la créativité. Les utilisateurs ne détestent pas l'IA ; ils n'apprécient pas le sentiment d'être remplacés ou dupés.

Dans le secteur culturel, l'application de l'IA doit être progressive et tenir compte des retours d'expérience. Dark Vador et One Piece font partie des souvenirs d'enfance de nombreuses personnes. Si l'IA venait à dénaturer cette image, le public se sentirait offensé. L'opposition à l'utilisation de l'IA par Toei Animation repose sur la crainte que l'art de l'anime ne perde de sa qualité et de son essence même, comme l'a analysé Indiatimes .

Lorsqu'on applique cette technologie à des activités comme le service client, la création de contenu et la personnalisation des expériences, il est essentiel de privilégier l'éthique et la sécurité. Les entreprises doivent également se doter de politiques claires en matière de confidentialité des données, de prévention des biais et de garantie d'un fonctionnement équitable.

Les clients comprennent que l'IA prend une importance croissante face à la concurrence. Cependant, au lieu de l'éviter, les entreprises devraient apprendre à utiliser l'intelligence artificielle à bon escient, comme un élément naturel d'amélioration des services, et non comme une stratégie marketing controversée.

Source : https://znews.vn/doanh-nghiep-linh-dan-vi-lam-dung-ai-post1556463.html