L'IA « pollue » le contenu de niche sur les réseaux sociaux

Faire défiler les pages de votre téléphone n'est plus la même avec l'IA. Photo : Axios .

La semaine dernière, les réseaux sociaux ont été en proie à une controverse autour d'une vidéo de lapins sautant sur un trampoline créée par l'IA. La vidéo, que beaucoup croient encore réelle, illustre la sophistication des modèles d'IA pour créer des images simulant le monde réel.

Par ailleurs, des représentants d'autres petites communautés ont également indiqué que le contenu IA avait envahi des niches peu connues sur les réseaux sociaux. Cette apparition a perturbé l'expérience et réduit le plaisir de naviguer sur son téléphone.

Défi de détection de clips IA

La vidéo a été largement partagée sur des plateformes comme Instagram, Facebook et TikTok, générant plus de dix millions d'interactions. L'image étant de nuit, la qualité est assez médiocre, comme si elle avait été filmée par une caméra de surveillance, ce qui rend difficile la distinction entre le vrai et le faux.

Certains ont découvert que ce contenu était de l'IA, car des vidéos similaires avaient déjà été publiées, mais avec d'autres animaux comme des ours et des belettes. Mais la plupart des spectateurs sont assez déconcertés et surpris lorsqu'ils apprennent la vérité.

Selon les chercheurs, de nombreuses personnes se tournent vers des vidéos d'animaux mignons pour évacuer le stress. En les regardant, le cerveau libère de la dopamine et de l'ocytocine, créant un sentiment de bonheur et améliorant la santé mentale.

Les animaux créés par l'IA attirent l'attention. Photo : Internet.

Dans une publication, la TikTokeuse Olivia Dayton a déclaré avoir partagé la vidéo avec au moins cinq membres de sa famille. « Depuis que mon frère a confirmé ces vidéos d'IA, j'ai l'impression que je risque davantage d'être victime d'arnaques technologiques en vieillissant », a déclaré Dayton.

Sa vidéo a reçu plus de 54 000 mentions « J'aime », accompagnées de nombreux commentaires compatissants. Une personne l'a consolé, affirmant qu'il s'était lui aussi laissé berner par la vidéo de l'ours. Une autre a commenté que son mari, qui avait partagé la vidéo, était contrarié d'apprendre qu'elle avait été générée par l'IA.

Se faufiler sur le net

Et ce n'est pas tout : le contenu IA a commencé à pénétrer des niches plus restreintes sur les réseaux sociaux, comme l'agriculture et l'artisanat. De nombreuses personnes, même simplement intéressées, donnent par inadvertance les mauvais conseils agricoles reçus sur ChatGPT.

La désinformation sur l'entretien des plantes, générée par les chatbots et applications d'IA, est courante. Selon Casey Schmidt Ahl, responsable de l'engagement chez Colonial Gardens, une cliente est venue poser une question sur une plante inhabituelle qui n'existait pas. En effectuant une recherche en ligne, elle n'a trouvé qu'une photo de la plante sur plusieurs sites web, sans aucune information spécifique sur son entretien.

L'entretien des plantes a longtemps été associé aux remèdes populaires et à la pseudoscience , explique Ahl. Elle s'appuie souvent sur des recherches universitaires et des guides de jardinage pour étayer ses articles de blog, même si l'origine des informations des chatbots reste floue.

Pinterest, une plateforme qui recommande des idées, des modes de vie et des tendances de niche à ses utilisateurs, a également été envahie par du contenu IA. Des acteurs malveillants ont créé une série de publications IA pour tromper l'algorithme et générer des revenus grâce aux publicités affichées sur ces pages.

L'expérience utilisateur est gravement compromise, limitant la créativité et l'inspiration. Un internaute sur Reddit a déclaré avoir arrêté d'utiliser Pinterest car 80 % des suggestions de contenu trouvées lors de ses recherches provenaient de comptes IA.

Alors que beaucoup s'inquiètent de l'authenticité, une célèbre marque de mode a ouvertement utilisé l'IA. Dans son numéro d'août, le magazine Vogue a utilisé des photos publicitaires de la marque Guess entièrement générées par l'IA. C'est la première fois dans l'histoire du magazine qu'un mannequin n'est pas une vraie personne.

Un modèle d'IA fait la publicité de la marque Guess. Photo : Vogue.

Dans le même contexte, Spotify, plateforme de musique en ligne, est accusée d'avoir autorisé l'IA à mettre en ligne des chansons se faisant passer pour un artiste décédé, sans l'autorisation de la famille ou du label. Le fait que certains groupes, atteignant des millions d'écoutes sur la plateforme, se révèlent soudainement être des IA a également semé la confusion chez de nombreux utilisateurs quant aux contenus qu'ils consomment.

Les deux marques font face à des boycotts qui mettent en avant la valeur de l'humain dans le domaine créatif. De nombreux lecteurs de Vogue ont cessé de suivre la marque, estimant que son « âme mode » est en train de disparaître. Certains artistes de renom sur Spotify ont retiré leur musique de la plateforme, afin de redonner de la valeur à la musique.

Source : https://znews.vn/ai-vay-ban-noi-dung-ngach-tren-mang-xa-hoi-post1574609.html