« Ma plus grande crainte est que nous causions un grave préjudice – à nous, à ce secteur, à l'industrie technologique – au monde. Je pense que cela pourrait se produire de différentes manières. C'est pourquoi nous avons créé cette entreprise », a déclaré Altman lors d'une audition devant la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit, le 16 mai.
La plus grande peur : l’IA peut se tromper
« Les gens pensent qu'en cas de dysfonctionnement de cette technologie, elle pourrait mal tourner, et nous voulons le signaler haut et fort. Nous voulons collaborer avec les gouvernements pour éviter que cela ne se produise », a déclaré Altman, PDG d'OpenAI (le développeur de ChatGPT).
Lors de son premier témoignage devant le Congrès , Altman a également appelé à une réglementation plus large, y compris une nouvelle agence gouvernementale chargée d'octroyer des licences aux modèles d'IA, pour répondre aux inquiétudes croissantes selon lesquelles l'intelligence artificielle pourrait déformer la réalité et créer des risques de sécurité sans précédent.
Sam Altman, PDG d'OpenAI, prête serment lors d'une audition devant la sous-commission judiciaire du Sénat. Photo : Washington Post
M. Altman a pris une position sérieuse sur la manière dont l’intelligence artificielle pourrait « causer un préjudice important au monde » et a exprimé sa volonté de travailler avec les législateurs pour faire face aux risques posés par ChatGPT de son entreprise et d’autres outils d’IA.
M. Altman a décrit les comportements « à risque » rendus possibles par des technologies comme ChatGPT, notamment la diffusion de « désinformation interactive en direct » et la manipulation émotionnelle. Il a reconnu que l'IA pourrait être utilisée pour cibler les attaques de drones.
« Si cette technologie tombe en panne, cela pourrait être mauvais », a-t-il déclaré.
Mais au cours d'une discussion de près de trois heures sur les conséquences potentiellement désastreuses, M. Altman a insisté sur le fait que son entreprise continuerait à déployer la technologie d'IA. Plutôt que de prendre des risques, a-t-il soutenu, « déployer de manière itérative » les modèles d'IA d'OpenAI donne aux organisations le temps d'appréhender les menaces potentielles. Il s'agit d'une démarche stratégique visant à introduire une technologie « relativement faible » et « imparfaite » afin de contribuer à la détection des risques de sécurité associés.
Illustration de l'application ChatGPT, qui permet aux ordinateurs de discuter avec les utilisateurs comme un humain.
Au cours des dernières semaines, M. Altman a effectué une tournée mondiale de bonne volonté, rencontrant en privé des décideurs politiques – dont le président Biden et des membres du Congrès – pour répondre aux préoccupations concernant le déploiement rapide de ChatGPT et d’autres technologies.
L'audience du 16 mai marque la première occasion pour le grand public d'entendre son message, à un moment où Washington a de plus en plus de mal à réglementer une technologie qui a perturbé l'emploi, facilité la fraude et propagé la désinformation.
Contrairement aux auditions d'autres PDG du secteur technologique, tels que Shou Zi Chew de TikTok et Mark Zuckerberg de Meta, les législateurs américains ont réservé un accueil relativement chaleureux à Altman. Ils semblaient à l'écoute, se montrant ouverts à l'examen des propositions d'Altman et des deux autres témoins présents à l'audition : Christina Montgomery, PDG d'IBM, et Gary Marcus, professeur émérite de l'Université de New York.
Lors d'une audition de la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit, les législateurs ont exprimé de profondes inquiétudes quant au développement rapide de l'intelligence artificielle, arguant que les avancées récentes pourraient être plus transformatrices qu'Internet, ou aussi dangereuses que la bombe atomique.
« C'est l'occasion pour vous de nous dire comment bien faire les choses », a déclaré le sénateur John Neely Kennedy aux témoins. « Profitez-en. »
Les législateurs des deux partis ont exprimé leur ouverture à l'idée de créer une agence gouvernementale chargée de réglementer le développement de l'intelligence artificielle, bien que les efforts précédents pour créer une agence spécifique avec la supervision de la Silicon Valley aient échoué au Congrès car les partis ont été divisés sur la manière de façonner une agence aussi massive.
Il est difficile de savoir si une telle proposition recueillerait un large soutien parmi les Républicains, généralement réticents à étendre les pouvoirs de l'État. Le sénateur Josh Hawley, républicain du Missouri, a averti qu'une telle agence pourrait être « piégée par les intérêts qu'elle est censée réguler ».
Le sénateur Richard Blumenthal, président du sous-comité, a salué le témoignage de M. Altman lors de l'audience : « Sam Altman est à mille lieues des autres PDG... Non seulement dans ses paroles et sa rhétorique, mais aussi dans ses actions concrètes et sa volonté de s'engager et de s'engager dans des actions concrètes. »
L'audition du PDG Altman intervient alors que les décideurs politiques de Washington sont de plus en plus préoccupés par les menaces posées par l'intelligence artificielle, telles que ChatGPT et d'autres outils d'IA innovants, notamment en ce qui concerne la désinformation, la confidentialité des données, la violation du droit d'auteur et la cybersécurité.
Les législateurs ont exprimé leurs regrets quant à leur approche relativement laxiste à l'égard de l'industrie de l'IA depuis avant les élections de 2016. Leur première audition avec le PDG de Meta, Zuckerberg, a eu lieu en 2018, alors que Facebook était déjà un géant et tout juste sorti du scandale Cambridge Analytica qui a récolté les données de 87 millions d'utilisateurs de Facebook.
À l’époque, malgré un large consensus bipartisan selon lequel l’IA représentait une menace, les législateurs n’ont pas réussi à s’entendre sur des règles régissant son utilisation ou son développement.
Selon le journal VNA/Tin Tuc
Lien source
Comment (0)