Les experts en IA et les politologues férus de technologie tirent la sonnette d’alarme sur l’état imprévisible des choses impliquant des outils d’IA générative comme ChatGPT à l’approche de l’élection présidentielle américaine de 2024.
« L’Amérique n’est pas préparée à cela »
Le 15 mai, Fox News citait M. AJ Nash, vice-président de l'IA chez ZeroFox (basé dans le Minnesota, aux États-Unis), qui avertissait que les Américains n'étaient pas préparés à la perspective de devoir composer avec l'IA artificielle. Selon lui, l'IA artificielle peut non seulement rédiger rapidement des e-mails, des messages et des clips vidéo pour les campagnes électorales, mais aussi se transformer en outils dangereux.
Les gouvernements se précipitent pour réglementer les outils d'IA
« L'IA générative représente une avancée significative dans la création de contenu audio et vidéo. Pouvoir le déployer à grande échelle et le diffuser sur les réseaux sociaux a un impact considérable », explique Nash. Parmi les nombreuses possibilités offertes par l'IA générative comme ChatGPT, nombreuses sont celles qui ont un impact profond sur les élections et le vote dans un pays moderne comme les États-Unis.
ChatGPT peut générer beaucoup de contenu en peu de temps
Photo d'illustration : REUTERS
Par exemple, ChatGPT peut créer des messages vocaux automatisés qui imitent la voix d’un candidat, demandant aux électeurs de voter le mauvais jour ; diffuser des enregistrements audio de candidats avouant un crime ou créant du contenu raciste ; créer des clips vidéo d’une personne prononçant un discours ou une interview qui n’a jamais eu lieu ; et des images générées par ordinateur basées sur des reportages locaux qui prétendent à tort qu’un candidat a abandonné la course.
« Et si Elon Musk en personne vous appelait et vous convainquait de voter pour un candidat en particulier ? » a déclaré le Dr Oren Etzioni, ancien PDG et fondateur de l'Allen Institute for AI (dont le siège est dans l'État de Washington, aux États-Unis). « Nombreux sont ceux qui l'écouteraient. Mais ce n'est pas lui qui a pris cette décision, c'est l'IA qui l'a fait », a souligné le Dr Etzioni.
Danger de l'ennemi
M. Petko Stoyanov, directeur mondial de la technologie de l'entreprise de cybersécurité Forcepoint (dont le siège social est situé au Texas, aux États-Unis), a averti que des puissances étrangères pourraient exploiter l'IA générative pour tenter de saboter les élections américaines de 2024. « Que se passerait-il si une puissance étrangère, une organisation cybercriminelle ou un État, tentait de se faire passer pour quelqu'un ? Quel serait l'impact ? Avons-nous un moyen de réagir ? », a-t-il soulevé. Selon lui, les États-Unis seront confrontés à une vague de désinformation provenant de sources étrangères pendant la période électorale.
Le sénateur Pete Ricketts (Nebraska) a également mis en garde contre le risque que des organisations pro-chinoises utilisent des deepfakes (une technologie qui crée des images et des vidéos fabriquées pour ressembler à des personnes et des événements réels) pendant la campagne électorale de 2024. « Ils en ont absolument la capacité, et nous devons y être très vigilants », a déclaré Ricketts à Fox News.
Depuis le début de l'année, les fausses informations générées par l'IA ont pris d'assaut les réseaux sociaux. On peut citer par exemple de fausses vidéos de Biden tenant des propos offensants à l'encontre des personnes transgenres, ou des images fabriquées montrant des enfants étudiant le satanisme dans des bibliothèques. Nombreux sont ceux qui y ont même cru lorsque des photos du casier judiciaire de l'ancien président Donald Trump sont apparues sur Internet, alors même qu'il n'avait pas été photographié pour un crime. D'autres images générées par l'IA montraient Trump résistant à son arrestation, qui étaient également fausses.
La représentante Yvette Clarke (démocrate de New York) a présenté un projet de loi obligeant les candidats à informer les électeurs de la présence d'images publicitaires générées par l'IA. Elle a également co-parrainé un projet de loi obligeant toute personne créant une image composite à y inclure un filigrane identifiant clairement la source de l'image. Plusieurs États ont également publié leurs propres propositions pour répondre aux préoccupations liées aux deepfakes.
Le sénateur Ricketts a déclaré qu'il était désormais possible de sensibiliser davantage les Américains aux risques de l'IA artificielle. Selon lui, le gouvernement américain pourrait coopérer avec les universités pour améliorer la détection des fausses images avant le début des élections.
ChatGPT mis à niveau
Selon Mashable, OpenAI (Californie, États-Unis) vient d'apporter une importante mise à jour à ChatGPT. Cet outil peut désormais se connecter et naviguer sur le web tout en étant en fonctionnement. ChatGPT est ainsi en mesure de mettre à jour les informations les plus récentes et de fournir des réponses plus fiables. Des entreprises comme Amazon aux États-Unis recrutent actuellement des ingénieurs en IA pour développer et intégrer des interfaces comme ChatGPT, facilitant ainsi les échanges avec leurs clients.
Lien source
Comment (0)