Une ville brésilienne adopte une loi rédigée par ChatGPT

L'ordonnance a été adoptée en octobre à Porto Alegre, ville du sud du Brésil. Le conseiller municipal Ramiro Rosário a révélé cette semaine qu'elle avait été rédigée par un chatbot, suscitant un tollé et soulevant des questions sur le rôle de l'intelligence artificielle dans les politiques publiques.

Photo : AP

Rosário a déclaré avoir demandé au chatbot ChatGPT d'OpenAI d'élaborer un projet de loi visant à supprimer les frais de remplacement des compteurs d'eau volés. Il l'a ensuite présenté à ses 35 collègues du conseil municipal sans y apporter aucune modification ni même les informer de la source du texte.

« Si je l'avais annoncé à l'avance, cette proposition n'aurait certainement pas été soumise au vote », a déclaré Rosário jeudi. Le conseil municipal, composé de 36 membres, a approuvé à l'unanimité le décret, qui entre en vigueur le 23 novembre. « Il serait injuste pour la population de risquer de ne pas approuver le projet simplement parce qu'il a été conçu par l'intelligence artificielle », a-t-il ajouté.

L'arrivée de ChatGPT sur le marché il y a tout juste un an a suscité un débat mondial sur l'impact des chatbots IA. Si certains y voient un outil prometteur, il suscite également des inquiétudes quant à ses effets indésirables.

Porto Alegre, avec ses 1,3 million d'habitants, est la deuxième plus grande ville du sud du Brésil. Le président du conseil municipal, Hamilton Sossmeier, a découvert que Rosário avait confié la rédaction de la proposition à ChatGPT lorsque le conseiller municipal s'est vanté de cette réussite sur les réseaux sociaux mercredi. M. Sossmeier a d'abord déclaré aux médias locaux qu'il considérait cela comme un « dangereux précédent ».

Les grands modèles de langage d’IA qui alimentent les chatbots comme ChatGPT fonctionnent en essayant constamment de deviner le mot suivant dans une phrase et ont tendance à produire de fausses informations, un phénomène parfois appelé « illusion d’information ».

Selon une étude récemment publiée par la société technologique Vectara, tous les chatbots déforment parfois les informations lorsqu'ils résument un document, allant d'environ 3 % à 27 % d'erreurs selon le degré d'avancement du modèle d'IA.

Dans un article publié sur le site Web du Centre pour la profession juridique de la faculté de droit de Harvard plus tôt cette année, Andrew Perlman, doyen de la faculté de droit de l’université de Suffolk, a écrit que ChatGPT « pourrait conduire à un changement encore plus important que l’avènement d’Internet », mais a également mis en garde contre ses inconvénients potentiels.

« Il ne peut pas toujours expliquer les nuances et les complexités du droit. ChatGPT étant un système d'apprentissage automatique, il peut ne pas avoir le même niveau de compréhension et de jugement qu'un avocat lorsqu'il s'agit d'expliquer les principes et les précédents juridiques. Cela peut entraîner des problèmes dans les situations où une analyse juridique plus approfondie est nécessaire », a écrit Perlman.

Rosário, de Porto Alegre, n'est pas le premier législateur au monde à tester les capacités de ChatGPT sur le plan législatif. Dans le Massachusetts, le sénateur Barry Finegold a fait appel à ChatGPT pour l'aider à rédiger un projet de loi visant à réglementer les modèles d'intelligence artificielle, dont ChatGPT. Déposé plus tôt cette année, ce projet de loi n'a pas encore été adopté.

« Je suis convaincu que… l’humanité connaîtra une nouvelle révolution technologique », a déclaré Rosário. « Tous les outils développés par notre civilisation peuvent être utilisés pour le bien comme pour le mal. C’est pourquoi nous devons montrer comment ils peuvent être utilisés pour le bien. »

Hoang Hai (selon AP)

Source: https://www.congluan.vn/thanh-pho-cua-brazil-ban-hanh-luat-do-chatgpt-soan-thao-gay-ra-nhieu-tranh-cai-post274690.html