L'IA « pollue » le contenu de niche sur les réseaux sociaux

Des contenus de mauvaise qualité et contrefaits, générés par l'IA, envahissent les niches agricoles, de la mode et de la musique sur les réseaux sociaux.

L’expérience de navigation sur son téléphone n’est plus la même avec l’IA. Photo : Axios .

La semaine dernière, les réseaux sociaux ont été en ébullition suite à la diffusion d'une vidéo de lapins sautant sur un trampoline, créée par une intelligence artificielle. Cette vidéo, que beaucoup croient encore authentique, illustre la sophistication des modèles d'IA dans la création d'images simulant le monde réel.

Par ailleurs, des représentants d'autres petites communautés ont également constaté que le contenu généré par l'IA a envahi même les niches les plus confidentielles des réseaux sociaux. Cette présence a perturbé l'expérience utilisateur et gâché le plaisir de naviguer sur son téléphone.

Défi de détection de clips par IA

La vidéo a été largement partagée sur des plateformes comme Instagram, Facebook et TikTok, générant plus de dix millions d'interactions. La scène nocturne et la qualité d'image assez médiocre, comme si elle provenait d'une caméra de surveillance domestique, rendent difficile pour les spectateurs de distinguer le vrai du faux.

Certaines personnes ont deviné que le contenu était généré par une intelligence artificielle car des vidéos similaires avaient déjà été publiées, mais avec d'autres animaux comme des ours ou des belettes. La plupart des spectateurs sont cependant assez perplexes et surpris lorsqu'ils découvrent la vérité.

D'après les chercheurs, nombreuses sont les personnes qui regardent des vidéos d'animaux mignons pour se détendre. Leur visionnage provoque la libération de dopamine et d'ocytocine dans le cerveau, ce qui procure une sensation de bien-être et améliore la santé mentale.

Les animaux créés par l'IA suscitent l'intérêt. Photo : Internet.

Dans une publication sur TikTok, Olivia Dayton a indiqué avoir partagé la vidéo avec au moins cinq membres de sa famille. « Après que mon frère a confirmé l'existence de ces vidéos d'IA, j'ai l'impression que je serai plus susceptible de me faire arnaquer par des arnaques de haute technologie en vieillissant », a-t-elle déclaré.

Sa vidéo a reçu plus de 54 000 mentions « J’aime » et de nombreux commentaires de soutien. Une personne l’a consolée, avouant avoir elle aussi été trompée par la vidéo de l’ours. Un autre internaute a également indiqué que son mari, qui avait partagé la vidéo, était contrarié d’apprendre qu’elle avait été générée par une intelligence artificielle.

Infiltrer le cybermonde

Mais ce n'est pas tout : le contenu IA s'étend désormais à des niches plus spécifiques sur les réseaux sociaux, comme l'agriculture et l'artisanat. Nombreux sont ceux qui, même par simple intérêt, diffusent involontairement de mauvais conseils agricoles reçus de ChatGPT.

La désinformation concernant l'entretien des plantes, véhiculée par les chatbots et les applications d'IA, est courante. D'après Casey Schmidt Ahl, responsable de l'engagement client chez Colonial Gardens, une cliente est venue se renseigner sur une plante étrange qui n'existait pas. Après une recherche en ligne, elle n'a trouvé qu'une photo de la plante sur différents sites web, sans aucune information précise sur son entretien.

L’entretien des plantes a longtemps été associé aux remèdes traditionnels et à la pseudoscience , explique Ahl. Elle s’appuie également souvent sur des recherches universitaires et des guides de jardinage pour ses articles de blog, tandis que l’origine des informations utilisées par les chatbots reste floue.

Pinterest, plateforme qui recommande des idées, des modes de vie et des tendances de niche, est elle aussi envahie par du contenu généré par l'IA. Des personnes mal intentionnées ont créé des publications truquées par l'IA pour tromper l'algorithme et monétiser les publicités affichées sur ces pages.

L'expérience utilisateur est fortement dégradée, ce qui limite la créativité et l'inspiration. Un utilisateur de Reddit a déclaré avoir cessé d'utiliser Pinterest car 80 % des suggestions qu'il trouvait lors de ses recherches provenaient de comptes générés par l'IA.

Alors que l'authenticité est une préoccupation majeure, une célèbre marque de mode a ouvertement eu recours à l'intelligence artificielle. Dans son numéro d'août, le magazine Vogue a publié des photos publicitaires de la marque Guess entièrement générées par IA. C'est la première fois dans l'histoire du magazine qu'un mannequin n'est pas une personne réelle.

Un mannequin doté d'intelligence artificielle fait la publicité de la marque Guess. Photo : Vogue.

Dans le même ordre d'idées, Spotify, plateforme de musique en ligne, est accusée d'autoriser des IA à diffuser des chansons usurpant l'identité d'un artiste décédé, sans l'accord de sa famille ni de sa maison de disques. Le phénomène de groupes atteignant des millions d'écoutes sur la plateforme et se révélant soudainement être des IA a également semé la confusion chez de nombreux auditeurs quant à la provenance des contenus qu'ils consomment.

Les deux marques font face à des appels au boycott, soulignant l'importance du rôle de l'humain dans le secteur créatif. De nombreux lecteurs de Vogue se sont désabonnés de la marque, estimant que son « âme mode » disparaît. Sur Spotify, certains artistes de renom ont retiré leur musique de la plateforme afin de la rendre aux véritables créateurs.

Source : https://znews.vn/ai-vay-ban-noi-dung-ngach-tren-mang-xa-hoi-post1574609.html