Un chercheur lauréat du prix Nobel quitte Google pour alerter sur les dangers de l'IA

Le physicien américain John Hopfield et l'expert en IA Geoffrey Hinton ont reçu cette semaine le prix Nobel de physique 2024. Considéré comme le « père de l'IA », les recherches de Hinton en 2012 ont jeté les bases des réseaux neuronaux actuels. Mais en 2023, il a quitté Google pour rejoindre le groupe de critiques qui tirent la sonnette d'alarme concernant cette technologie.

Le « parrain » de l'intelligence artificielle (IA), l'informaticien Geoffrey Hinton. Photo : AFP

Dans une interview accordée au New York Times l'année dernière au sujet de son départ de son poste de vice-président et d'ingénieur chez Google, Hinton a déclaré qu'il pensait auparavant que Google était le « véritable intendant » de cette puissante technologie, jusqu'à ce que Microsoft s'associe à OpenAI pour publier le grand modèle de langage (LLM) GPT-4 d'OpenAI, la plate-forme qui alimente ChatGPT.

Bien qu'il ne pensât pas que l'IA ait atteint son apogée à l'époque, ce scientifique informatique de 76 ans a déclaré qu'il voyait un potentiel prometteur dans l'accord entre Microsoft et OpenAI.

Avant de quitter Google et de rejoindre une foule de personnalités de premier plan, dont Elon Musk, pour signer une lettre ouverte appelant à une pause dans le développement de l'IA, Hinton est intervenu sur CBS News pour avertir que le monde avait atteint un « tournant critique » en termes de technologie.

« Je pense qu’il est tout à fait raisonnable que les gens s’inquiètent de ces problèmes en ce moment, même si cela ne se produira pas avant un an ou deux », avait-il déclaré à CBS à l’époque.

Aujourd'hui professeur émérite à l'Université de Toronto, Hinton a clairement indiqué qu'il pensait que l'IA pourrait échapper au contrôle humain à tout moment, et qu'une fois que cela se produirait, la situation pourrait devenir chaotique.

Lors d'une conversation avec le comité Nobel, l'informaticien a déclaré : « Nous sommes confrontés au problème de ce qui va se passer et de ce qu'il faut faire pour y remédier. J'aimerais avoir une formule simple pour que tout se passe bien. Mais je n'en ai pas. »

Considéré comme l’un des principaux « pessimistes » de l’IA en raison de sa vision sombre de la technologie qu’il a contribué à créer, Hinton a déclaré dans son discours au comité Nobel qu’il avait été surpris d’apprendre qu’il avait remporté le prix et qu’il ne savait même pas qu’il avait été nominé.

Ngoc Anh (selon le futurisme)

Source : https://www.congluan.vn/nha-nghien-cuu-vua-gianh-giai-nobel-tung-roi-google-de-canh-bao-ve-moi-nguy-hiem-cua-ai-post316188.html