L'utilisation de l'IA (intelligence artificielle) pour produire de fausses informations afin d'influencer l'élection présidentielle américaine n'est plus une préoccupation, mais une réalité. Le 22 janvier, le ministère de la Justice du New Hampshire (États-Unis) a publié un avis concernant une situation où des personnes ont reçu un faux enregistrement de la voix du président Joe Biden leur demandant de ne pas voter aux primaires locales.
L'enregistrement, créé à l'aide de la technologie Deepfake alimentée par l'IA, exhorte les électeurs à « sauvegarder » leurs bulletins de vote et affirme que « les votes des citoyens feront la différence en novembre, pas mardi prochain ».
La voix du président américain Joe Biden a été falsifiée pour inciter les électeurs à ne pas voter
Selon Bloomberg, la société de détection de fraude vocale Pindrop Security a découvert que la fausse voix de Biden avait été créée par la technologie de la startup ElevenLabs - une startup d'IA spécialisée dans le développement de générateurs de voix d'intelligence artificielle, utilisant des modèles de langage capables d'ajouter une intonation de type humain au contenu en fonction du contexte.
L'entreprise propose des milliers de voix d'IA prédéfinies parmi lesquelles les utilisateurs peuvent choisir ou créer leurs propres versions. Sur son site web, ElevenLabs indique que les voix de politiciens créées grâce à la technologie Deepfake peuvent être utilisées dans certaines situations, comme la satire, les caricatures, etc.
« Nous travaillons dur pour prévenir l'utilisation abusive de nos outils d'IA audio et prenons les abus très au sérieux », a déclaré l'entreprise dans un communiqué. L'entreprise a suspendu le compte peu après avoir découvert que quelqu'un avait créé un faux extrait vocal du président Joe Biden en lien avec l'élection.
Kathleen Carley, professeure d' informatique à l'Université Carnegie Mellon, a déclaré que cette affaire n'était que la partie émergée de l'iceberg en matière de suppression des électeurs. « Ce n'est qu'un signe avant-coureur de ce qui pourrait arriver », a-t-elle souligné.
Lien source
Comment (0)