Le « Parrain de l'IA » quitte Google et met en garde contre les dangers technologiques

Geoffrey Hinton, qui a créé la technologie sous-jacente des systèmes d’IA, a déclaré au New York Times (NYT) que les progrès réalisés dans le domaine posent « de profonds risques pour la société et l’humanité ».

Geoffrey Hinton, pionnier de l'IA, a quitté Google et met désormais en garde contre les dangers de la technologie utilisée par des applications comme ChatGPT. Photo : AFP

« Regardez comment c’était il y a 5 ans et comment c’est aujourd’hui. » Hinton affirme que la concurrence entre les géants de la technologie pousse les entreprises à lancer de nouvelles technologies d'IA à un rythme dangereux, mettant ainsi en péril des emplois et diffusant de la désinformation.

« Il est difficile de voir comment on peut empêcher les méchants de l’utiliser à de mauvaises fins », a-t-il déclaré au NYT.

En 2022, Google et OpenAI, la startup à l'origine du célèbre chatbot IA ChatGPT, ont commencé à créer des systèmes utilisant des quantités de données beaucoup plus importantes que jamais auparavant.

Hinton a déclaré au NYT qu'il pensait que ces systèmes éclipsaient l'intelligence humaine à certains égards en raison de la quantité de données qu'ils analysent.

« Peut-être que ce qui se passe dans ces systèmes est en réalité bien meilleur que ce qui se passe dans le cerveau », a-t-il déclaré au journal.

Bien que l’IA ait été utilisée pour assister les humains, l’expansion rapide des chatbots comme ChatGPT pourrait mettre des emplois en danger. Il a déclaré que l’IA « supprime les corvées » mais « peut supprimer bien plus encore ».

Le scientifique a également mis en garde contre le risque de propagation de fausses informations générées par l'IA, affirmant que la personne moyenne « ne serait plus en mesure de dire ce qui est vrai ». Hinton a informé Google de sa démission le mois dernier.

En mars, le milliardaire technologique Elon Musk et une multitude d’experts ont appelé à une pause dans le développement des systèmes d’IA pour donner le temps de garantir leur sécurité.

Hinton n'a pas signé la lettre à l'époque, mais a déclaré au New York Times que les scientifiques ne devraient pas « intensifier ce processus jusqu'à ce qu'ils comprennent s'ils peuvent le contrôler ».

Mai Anh (selon NYT, CNA)

Source: https://www.congluan.vn/bo-gia-ai-roi-google-canh-bao-hiem-hoa-cong-nghe-post246065.html