Un chercheur lauréat du prix Nobel quitte Google pour mettre en garde contre les dangers de l'IA

Le physicien américain John Hopfield et l'expert en intelligence artificielle Geoffrey Hinton ont reçu cette semaine le prix Nobel de physique 2024. Considéré comme le « père de l'IA », les travaux de Hinton en 2012 ont jeté les bases des réseaux neuronaux actuels. Mais en 2023, il a quitté Google pour rejoindre les critiques qui tirent la sonnette d'alarme concernant cette technologie.

Le « parrain » de l'intelligence artificielle (IA), l'informaticien Geoffrey Hinton. Photo : AFP

Dans une interview accordée au New York Times l'année dernière à propos de son départ de son poste de vice-président et d'ingénieur chez Google, Hinton a déclaré qu'il avait auparavant pensé que Google était le « véritable gardien » de cette puissante technologie, jusqu'à ce que Microsoft s'associe à OpenAI pour publier le modèle de langage étendu (LLM) GPT-4 d'OpenAI, la plateforme qui alimente ChatGPT.

Bien qu'il ne pensât pas que l'IA ait atteint son apogée à l'époque, ce scientifique informatique de 76 ans a déclaré qu'il voyait un potentiel prometteur dans l'accord entre Microsoft et OpenAI.

Avant de quitter Google et de se joindre à de nombreuses personnalités, dont Elon Musk, pour signer une lettre ouverte appelant à une pause dans le développement de l'IA, Hinton est intervenu sur CBS News pour avertir que le monde avait atteint un « tournant critique » en matière de technologie.

« Je pense qu’il est tout à fait raisonnable que les gens s’inquiètent de ces problèmes en ce moment, même si cela ne se produira pas avant un an ou deux », avait-il déclaré à CBS à l’époque.

Aujourd'hui professeur émérite à l'Université de Toronto, Hinton a clairement indiqué qu'il pensait que l'IA pourrait échapper au contrôle humain à tout moment, et qu'une fois que cela se produirait, la situation pourrait devenir chaotique.

Lors d'un entretien avec le Comité Nobel, l'informaticien a déclaré : « Nous sommes confrontés au problème de ce qui va se passer et de ce que nous devons faire. J'aimerais avoir une formule simple pour que tout se déroule bien. Mais je n'en ai pas. »

Considéré comme l'un des plus grands « pessimistes » en matière d'IA en raison de sa vision sombre de la technologie qu'il a contribué à créer, Hinton a déclaré dans son discours devant le Comité Nobel qu'il était surpris d'apprendre qu'il avait remporté le prix et qu'il ignorait même avoir été nominé.

Ngoc Anh (selon le futurisme)

Source : https://www.congluan.vn/nha-nghien-cuu-vua-gianh-giai-nobel-tung-roi-google-de-canh-bao-ve-moi-nguy-hiem-cua-ai-post316188.html