Un chercheur lauréat du prix Nobel quitte Google pour alerter sur les dangers de l'IA

Le physicien américain John Hopfield et l'expert en IA Geoffrey Hinton ont reçu cette semaine le prix Nobel de physique 2024. Considéré comme le « père de l'IA », les recherches de Hinton en 2012 ont jeté les bases des réseaux neuronaux actuels. Mais en 2023, il a quitté Google pour rejoindre le chœur des critiques qui tiraient la sonnette d'alarme concernant cette technologie.

Geoffrey Hinton, « parrain » de l'intelligence artificielle (IA), est un informaticien . Photo : AFP

Dans une interview accordée au New York Times l'année dernière au sujet de son départ de son poste de vice-président et d'ingénieur chez Google, Hinton a déclaré qu'il avait auparavant considéré Google comme le « véritable intendant » de cette puissante technologie, jusqu'à ce que Microsoft s'associe à OpenAI pour publier le grand modèle de langage (LLM) GPT-4 d'OpenAI, la plate-forme qui alimente ChatGPT.

Même s'il ne croyait pas que l'IA avait atteint son apogée à l'époque, l'informaticien de 76 ans a déclaré qu'il voyait des promesses dans l'accord entre Microsoft et OpenAI.

Avant de quitter Google et de rejoindre une série de personnalités de premier plan, dont Elon Musk, pour signer une lettre ouverte appelant à une pause dans le développement de l'IA, Hinton est intervenu sur CBS News pour avertir que le monde avait atteint un « tournant critique » en termes de technologie.

« Je pense qu’il est tout à fait raisonnable que les gens s’inquiètent de ces problèmes dès maintenant, même si cela n’arrivera pas avant un an ou deux », avait-il déclaré à CBS à l’époque.

Aujourd’hui professeur émérite à l’Université de Toronto, Hinton a clairement indiqué qu’il pensait que l’IA pourrait échapper au contrôle humain à tout moment, et qu’une fois que cela se produirait, les choses pourraient devenir chaotiques.

Lors d'une conversation avec le comité Nobel, l'informaticien a déclaré : « Nous sommes confrontés au problème de ce qui va se passer et de ce qu'il faut faire pour y remédier. J'aimerais avoir une formule simple pour que tout se passe bien. Mais je n'en ai pas. »

Considéré comme l’un des principaux « pessimistes » de l’IA en raison de sa vision sombre de la technologie qu’il a contribué à créer, Hinton a déclaré dans son discours au comité Nobel qu’il avait été surpris d’apprendre qu’il avait remporté le prix et qu’il ne savait même pas qu’il avait été nominé.

Ngoc Anh (selon le futurisme)

Source : https://www.congluan.vn/nha-nghien-cuu-vua-gianh-giai-nobel-tung-roi-google-de-canh-bao-ve-moi-nguy-hiem-cua-ai-post316188.html