Le « père » de Chat GPT partage sa plus grande crainte concernant l'IA

« Ma plus grande crainte est que nous causions un préjudice grave au monde – nous, ce secteur, l’industrie technologique. Je pense que cela pourrait se produire de différentes manières. C’est pourquoi nous avons créé cette entreprise », a déclaré M. Altman lors d’une audition devant la sous-commission judiciaire du Sénat sur la protection de la vie privée, la technologie et le droit, le 16 mai.

Plus grande crainte : l’IA peut se tromper

« Les gens pensent que si cette technologie dysfonctionne, cela pourrait mal tourner, et nous voulons le faire savoir haut et fort. Nous voulons collaborer avec les gouvernements pour éviter que cela ne se produise », a déclaré Altman, PDG d'OpenAI (développeur de ChatGPT).

Le PDG d'OpenAI, Sam Altman, prête serment lors d'une audition devant la sous-commission judiciaire du Sénat. (Photo : Washington Post)

Dans son premier témoignage devant le Congrès américain, M. Sam Altman a également plaidé pour une réglementation étendue, notamment la création d'une nouvelle agence gouvernementale chargée de délivrer des licences aux modèles d'IA, afin de répondre aux inquiétudes croissantes selon lesquelles l'intelligence artificielle peut déformer la réalité et créer des risques sans précédent pour la sécurité.

M. Altman a pris position sérieusement sur la manière dont l'intelligence artificielle pourrait « causer des dommages importants au monde » et s'est dit prêt à collaborer avec les législateurs pour remédier aux risques posés par ChatGPT, le logiciel d'IA de sa société, et d'autres outils d'IA.

M. Altman a décrit les comportements « à risque » que des technologies comme ChatGPT pourraient engendrer, notamment la diffusion de « désinformation interactive en direct » et la manipulation émotionnelle. Il a reconnu que l'IA pourrait être utilisée pour cibler les attaques de drones.

« Si cette technologie tourne mal, cela pourrait mal tourner », a-t-il déclaré.

Pourtant, pendant près de trois heures de discussion sur les conséquences potentiellement désastreuses, M. Altman a insisté sur le fait que son entreprise continuerait à déployer la technologie d'IA.

Plutôt que de prendre un risque, soutient-il, les « déploiements itératifs » des modèles d’IA d’OpenAI donnent aux organisations le temps de comprendre les menaces potentielles, une démarche stratégique qui met au monde une technologie « relativement faible » et « imparfaite » pour aider à découvrir les risques de sécurité associés.

Illustration de l'application ChatGPT, qui permet aux ordinateurs de discuter avec les utilisateurs comme des humains.

Ces dernières semaines, M. Altman a effectué une tournée mondiale de bonne volonté, rencontrant en privé des décideurs politiques, dont le président Biden et des membres du Congrès, afin de répondre aux préoccupations concernant le déploiement rapide de ChatGPT et d'autres technologies.

L’audience du 16 mai sera la première occasion pour le grand public d’entendre son message, à un moment où Washington peine de plus en plus à réglementer une technologie qui a perturbé l’emploi, facilité la fraude et propagé la désinformation.

Contrairement aux auditions d'autres PDG du secteur technologique, comme Shou Zi Chew de TikTok et Mark Zuckerberg de Meta, les législateurs américains ont réservé un accueil relativement chaleureux à M. Altman.

Ils semblaient être à l'écoute, se montrant ouverts à la prise en compte des suggestions d'Altman et de deux autres témoins lors de l'audience : Christina Montgomery, cadre chez IBM, et Gary Marcus, professeur émérite à l'université de New York.

Lors d'une audition de la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit, les législateurs ont exprimé de profondes inquiétudes quant au développement rapide de l'intelligence artificielle, arguant que les progrès récents pourraient être plus transformateurs qu'Internet, ou aussi dangereux qu'une bombe atomique.

« C’est l’occasion pour vous de nous dire comment faire les choses correctement », a déclaré le sénateur John Neely Kennedy aux témoins. « Saisissez-la. »

Des élus des deux partis se sont montrés ouverts à l'idée de créer une agence gouvernementale chargée de réglementer le développement de l'intelligence artificielle, même si les tentatives précédentes de créer une agence spécifique placée sous la tutelle de la Silicon Valley ont échoué au Congrès en raison des divisions partisanes sur la manière de structurer une agence d'une telle envergure.

Il est difficile de savoir si une telle proposition recueillerait un large soutien parmi les républicains, généralement réticents à l'égard de l'expansion du pouvoir gouvernemental. Le sénateur Josh Hawley (R-Missouri) a averti qu'une telle agence pourrait être « piégée par les intérêts qu'elle est censée réguler ».

Le sénateur Richard Blumenthal, président de la sous-commission, a salué le témoignage de M. Altman lors de l'audience : « Sam Altman est à mille lieues des autres PDG… Non seulement par ses paroles et sa rhétorique, mais aussi par ses actions concrètes et sa volonté de s'engager, de prendre des mesures concrètes. »

L'audition du PDG Altman intervient alors que les décideurs politiques de Washington sont de plus en plus préoccupés par les menaces posées par l'intelligence artificielle, comme ChatGPT et d'autres outils d'IA innovants, notamment en matière de désinformation, de confidentialité des données, de violation du droit d'auteur et de cybersécurité.

Les législateurs ont exprimé des regrets quant à leur approche relativement laxiste vis-à-vis du secteur de l'IA depuis avant les élections de 2016. Leur première audition avec le PDG de Meta, Mark Zuckerberg, a eu lieu en 2018, alors que Facebook était déjà un géant et sortait tout juste du scandale Cambridge Analytica, qui avait vu les données de 87 millions d'utilisateurs de Facebook consultées.

À l'époque, malgré un large consensus bipartisan sur le fait que l'IA représentait une menace, les législateurs n'ont pas réussi à s'entendre sur des règles régissant son utilisation ou son développement.

(Source : Tin Tuc Newspaper/Fox News ; Washington Post)

Utile
Émotion
Créatif
Unique
Colère

Source: https://vtc.vn/cha-de-cua-chat-gpt-chia-se-noi-so-lon-nhat-ve-ai-ar783423.html