Quand ChatGPT remplace le rédacteur de discours

Le 31 mai, la Première ministre Mette Frederiksen a surpris les parlementaires danois en révélant avoir utilisé ChatGPT pour rédiger une partie de son discours au Parlement. « Ce que j'ai lu au Parlement n'est ni de moi, ni de personne d'autre », a-t-elle déclaré.

Selon le journal Le Point, un extrait du discours de la Première ministre Mette Frederiksen en danois, compilé par ChatGPT, contient les phrases suivantes : « Ce fut un honneur et un défi de diriger un gouvernement élargi au cours de la dernière législature » ; « Nous avons œuvré sans relâche pour coopérer entre les partis et garantir un avenir solide et durable au Danemark. » ChatGPT a également écrit : « Nous avons pris des mesures pour lutter contre le changement climatique et assurer une société plus juste et plus inclusive, où chacun bénéficie des mêmes opportunités. »

La Première ministre danoise, Mette Frederiksen, a déclaré que ChatGPT était à la fois fascinant et terrifiant. Photo : Reuters

Et ChatGPT a de nouveau souligné : « Nous avons également travaillé à renforcer nos systèmes de santé et sociaux, afin que chaque citoyen puisse obtenir l’aide dont il a besoin » ; ou encore : « Bien que nous ayons rencontré des difficultés et de l’opposition en cours de route, je suis fier de ce que nous avons accompli ensemble au cours de la dernière législature ».

Pour le chef du Parti social-démocrate danois, qui a prononcé un discours de bilan politique à la fin de la récente session parlementaire, le chatbot développé par OpenAI risque d'induire les auditeurs en erreur et pourrait également être source d'inquiétude. « Bien que ses propos ne soient pas totalement exacts, ChatGPT possède une compréhension détaillée du programme du gouvernement… Les capacités de ChatGPT sont à la fois fascinantes et terrifiantes », a conclu Frederiksen.

Menace d'extinction

ChatGPT est l'un des exemples les plus récents des impressionnantes capacités de l'IA. Cependant, cela a également suscité des inquiétudes quant à la mauvaise utilisation de cette technologie, notamment la désinformation et le risque de remplacement massif d'employés. Lors du 15e Congrès de la Confédération européenne des syndicats (CES), fin mai, la présidente de la Commission européenne, Ursula von der Leyen, a déclaré que 25 % des entreprises européennes prévoyaient d'utiliser des outils d'IA dans la gestion des ressources humaines et que certains de ces outils pourraient servir à licencier automatiquement des employés. Elle a affirmé : « Chaque algorithme est créé par un programmeur, et ce dernier possède une base de connaissances et des biais. Aucun algorithme n'est donc exempt de biais. » La présidente de la CE a souligné que, pour cette raison, il est essentiel d'être clair et de ne licencier personne sur la base d'un algorithme ; des règles doivent être établies.

La menace d'extinction que représente l'IA figurait également à l'ordre du jour du sommet commercial États-Unis-UE qui s'est tenu à Luleå, en Suède, le 31 mai. En amont de la réunion, un groupe de chefs d'entreprise et d'experts en technologies, dont Sam Altman, créateur de ChatGPT, a mis en garde contre les menaces d'extinction que l'essor de l'IA fait peser sur l'humanité. Geoffrey Hinton, considéré comme l'un des pères de l'IA, a déclaré à la presse qu'il craignait sa propre création. Des experts en technologies ont affirmé que la gestion des risques liés à l'IA devrait être une « priorité mondiale au même titre que d'autres risques pesant sur la société, tels que les pandémies et la guerre nucléaire ».

Selon Yoshua Bengio, chercheur canadien considéré comme le « père de l’IA », certaines technologies d’IA se rapprochent de plus en plus de l’intelligence humaine. Convaincu que le jour où l’IA deviendra une véritable menace pour l’humanité pourrait arriver bien plus tôt qu’on ne le prévoit, M. Bengio a exhorté les chercheurs en IA à collaborer avec des experts de nombreux autres domaines, ainsi qu’avec les gouvernements concernés, afin de réaliser une évaluation plus complète et approfondie des scénarios catastrophes possibles et de trouver des mesures pour les prévenir.

PHUONG VU