Quand ChatGPT remplace le rédacteur de discours

Le 31 mai, la Première ministre Mette Frederiksen a choqué les parlementaires danois en révélant avoir utilisé ChatGPT pour rédiger des extraits de son discours au Parlement. « Ce que je lis au Parlement n'est ni de moi ni de qui que ce soit », a déclaré Mme Frederiksen.

Selon Le Point, un extrait du discours en danois de la Première ministre Mette Frederiksen, compilé par ChatGPT, comportait les phrases suivantes : « Ce fut un honneur et un défi de diriger un gouvernement élargi au cours de la dernière année parlementaire » ; « Nous avons travaillé dur pour coopérer entre les partis et assurer un avenir solide et durable au Danemark ». ChatGPT écrivait également : « Nous avons pris des mesures pour lutter contre le changement climatique et garantir une société plus juste et plus inclusive, où chacun bénéficie des mêmes chances. »

La Première ministre danoise, Mette Frederiksen, a déclaré que ChatGPT était à la fois fascinant et terrifiant. Photo : Reuters

Et encore une fois, ChatGPT a souligné : « Nous avons également travaillé pour renforcer nos systèmes de santé et sociaux, afin que chaque citoyen puisse obtenir l'aide dont il a besoin » ; ou « Bien que nous ayons fait face à des défis et à des oppositions en cours de route, je suis fier de ce que nous avons accompli ensemble au cours de la dernière législature ».

Pour le chef du Parti social-démocrate danois, qui a prononcé un discours d'évaluation politique à la fin de la récente session parlementaire, le robot conversationnel développé par OpenAI risque d'induire en erreur les auditeurs et pourrait également être source d'inquiétude. « Bien que ses informations ne soient pas entièrement exactes, ChatGPT a une compréhension détaillée du programme du gouvernement… Ce que ChatGPT peut faire est à la fois fascinant et terrifiant », a conclu Frederiksen.

Menace d'extinction

ChatGPT est l'un des derniers exemples des capacités impressionnantes de l'IA. Cependant, il a également suscité des inquiétudes quant à l'utilisation abusive de cette technologie, notamment sous forme de désinformation ou de risque de remplacement massif d'employés. Lors du 15e Congrès de la Confédération européenne des syndicats fin mai, la présidente de la Commission européenne (CE), Ursula von der Leyen, a déclaré que 25 % des entreprises européennes prévoyaient d'utiliser des outils d'IA dans la gestion des ressources humaines et que certains de ces outils pourraient servir à licencier automatiquement des employés. Elle a déclaré : « Chaque algorithme est créé par un programmeur qui a un bagage, un parti pris. Aucun algorithme n'est donc exempt de parti pris. » La présidente de la CE a souligné que, pour cette raison, il était nécessaire d'être clair et de ne licencier personne sur la base d'un algorithme, et qu'il fallait établir des règles.

La menace d'extinction posée par l'IA était également à l'ordre du jour du sommet commercial UE-États-Unis qui s'est tenu à Luleå, en Suède, le 31 mai. En amont de la réunion, un groupe de chefs d'entreprise et d'experts en technologie, dont Sam Altman, créateur de ChatGPT, ont mis en garde contre les menaces d'extinction que représente pour l'humanité l'essor de l'IA. Geoffrey Hinton, considéré comme l'un des pères de l'IA, a déclaré à la presse craindre sa propre création. Les experts en technologie ont déclaré que la gestion des risques liés à l'IA devrait être une « priorité mondiale, au même titre que d'autres risques pour la société, tels que les pandémies et la guerre nucléaire ».

Selon Yoshua Bengio, chercheur reconnu comme le « parrain de l'IA au Canada », certaines technologies d'IA se rapprochent de l'intelligence humaine. Concluant que l'IA pourrait devenir une véritable menace pour l'humanité bien plus tôt que prévu, Bengio a exhorté les scientifiques spécialisés en IA à collaborer avec des experts de nombreux autres domaines, ainsi qu'avec les gouvernements concernés, afin de procéder à une évaluation plus complète et approfondie des scénarios catastrophes possibles et de trouver des moyens de les prévenir.

PHUONG VU