Le contenu toxique généré par l'IA est omniprésent sur TikTok

Quand l'IA dessine des vampires

Les utilisateurs de TikTok monétisent de plus en plus de vidéos qui promeuvent des « théories du complot » sans fondement sur la fin du monde , selon un rapport de l'organisation à but non lucratif Media Matters.

C'est la dernière illustration de la manière dont la désinformation se propage à une vitesse vertigineuse sur la plateforme - un problème difficile qui est revenu à plusieurs reprises dans les récents débats politiques, en particulier alors que les législateurs américains envisagent d'interdire l'application pour des raisons de sécurité nationale.

Les vidéos malveillantes, avec une musique de fond effrayante, des images et même les voix de célébrités générées par l'intelligence artificielle (IA), attirent souvent des millions de vues sur TikTok. Les vidéos complotistes, en particulier, sont souvent publiées par des comptes anonymes.

La chercheuse de TikTok, Abbie Richards, a déclaré que de telles vidéos pourraient être financièrement avantageuses pour les créateurs de TikTok, grâce à un programme de création sur la plateforme.

Cette « industrie artisanale » est alimentée par des outils d’IA largement et gratuitement disponibles.

De son côté, un porte-parole de TikTok a souligné que « les théories du complot ne sont pas éligibles à la monétisation ou à la recommandation » dans les flux des utilisateurs.

Cette personne a affirmé que les informations erronées nuisibles seraient interdites et que l’équipe de sécurité en supprimerait proactivement 95 % avant de recevoir les rapports des utilisateurs.

Les inquiétudes concernant la désinformation générée par l’IA sont particulièrement élevées cette année, alors que des élections majeures devraient avoir lieu partout dans le monde.

L'Europe et l'Amérique ont toutes deux peur de TikTok

La semaine dernière, l’Union européenne (UE) a utilisé la loi sur les services numériques (DSA) pour faire pression sur plusieurs plateformes, dont TikTok, afin qu’elles s’attaquent aux risques de l’IA qui pourraient avoir un impact négatif sur les prochaines élections dans le bloc des 27 pays.

Aux États-Unis, un pays qui compte environ 170 millions d’utilisateurs de TikTok, les législateurs ont également massivement soutenu un projet de loi visant à interdire TikTok la semaine dernière.

Le projet de loi, adopté par la Chambre des représentants le 13 mars, oblige la société mère ByteDance à prendre des mesures pour abandonner le contrôle de l'application TikTok dans les 180 jours, sinon l'application sera bannie des magasins d'applications Apple et Google aux États-Unis.

Il s'agit de la plus grande menace à ce jour pour l'application de partage de vidéos TikTok, devenue extrêmement populaire dans le monde entier en raison d'allégations de violation de droits d'auteur et d'utilisation abusive des données des utilisateurs. TikTok a nié à plusieurs reprises ces allégations.

Source: https://tuoitre.vn/tran-lan-noi-dung-doc-hai-do-ai-sang-tao-tren-tiktok-20240318154255464.htm