Un projet de « super IA » qui menace l’humanité pourrait-il contribuer au licenciement du PDG Altman par OpenAI ?

Dans un rapport du 23 novembre, Reuters a cité deux sources affirmant que la lettre n'avait jamais été mentionnée auparavant et que l'algorithme d'IA était un développement majeur avant que Sam Altman, cofondateur et PDG d'OpenAI, ne soit licencié le 17 novembre. Selon ces sources, la lettre était l'un des facteurs dans la liste des raisons de la décision de licencier le conseil d'administration d'OpenAI.

Les chercheurs qui ont écrit et envoyé la lettre n’ont pas immédiatement répondu à une demande de commentaire.

Altman a fait un retour triomphal le 21 novembre en fin de journée, après que plus de 700 employés d'OpenAI ont menacé de démissionner et de rejoindre Microsoft aux côtés du PDG licencié. Ce retour a mis fin à près d'une semaine de troubles et de développements inattendus chez OpenAI, l'une des sociétés de recherche en IA les plus importantes au monde et propriétaire de la célèbre application ChatGPT.

M. Altman lors d'un événement de l'APEC aux États-Unis le 16 novembre.

Selon l'une des sources, l'un des cadres supérieurs de longue date d'OpenAI, Mira Murati, a mentionné un projet appelé Q* (prononcé « Q Star ») aux employés le 22 novembre et a déclaré qu'une lettre avait été envoyée au conseil d'administration de l'entreprise avant les ondes de choc de l'industrie technologique mondiale le week-end dernier.

Après la publication de l'histoire, un porte-parole d'OpenAI a déclaré que Mme Murati avait dit aux employés ce que les médias allaient rapporter, mais qu'elle ne commenterait pas l'exactitude de l'information.

Sam Altman revient en tant que PDG d'OpenAI

Une source a révélé qu'OpenAI a progressé sur le projet Q*. Certains membres de l'entreprise estiment que ce projet pourrait marquer une avancée majeure dans la quête d'OpenAI vers la superintelligence, également appelée intelligence artificielle générale (IAG). L'entreprise définit l'IAG comme un système d'IA plus intelligent que les humains.

Grâce à ses vastes ressources de calcul, le nouveau modèle peut résoudre certains problèmes, selon la source. Bien que le modèle ne prenne en charge que les mathématiques de niveau primaire, sa capacité à résoudre de tels problèmes rend les chercheurs très optimistes quant au succès futur de Q*, a indiqué la source.

Les chercheurs considèrent les mathématiques comme une frontière dans le développement de l'IA générative. Actuellement, l'IA générative peut écrire et traduire entre les langues, même si les réponses aux mêmes questions peuvent être très différentes. Mais la maîtrise des mathématiques – un domaine où il n'existe qu'une seule bonne réponse – implique que l'IA améliorera son raisonnement, à l'instar de l'intelligence humaine. Les chercheurs en IA pensent que cela pourrait être appliqué à de nouvelles recherches scientifiques .

Contrairement à un ordinateur qui ne peut résoudre qu'un nombre limité de calculs, l'IA générale peut généraliser, apprendre et comprendre des problèmes. Dans une lettre adressée au conseil d'administration d'OpenAI, les chercheurs ont souligné la puissance et les dangers potentiels de l'IA, selon certaines sources. Les informaticiens débattent depuis longtemps des dangers posés par les machines superintelligentes, notamment de la possibilité qu'elles décident de détruire l'humanité pour leur propre bénéfice.

Dans ce contexte, M. Altman a dirigé les efforts visant à faire de ChatGPT l’une des applications logicielles à la croissance la plus rapide de l’histoire et à attirer les investissements – et les ressources informatiques – de Microsoft nécessaires pour se rapprocher de la superintelligence généralisée, ou AGI.

En plus d’annoncer une série de nouveaux outils lors d’un événement ce mois-ci, M. Altman a déclaré aux dirigeants mondiaux à San Francisco la semaine dernière qu’il pensait que l’AGI était à portée de main.

Un jour plus tard, le conseil d’administration d’OpenAI a licencié M. Altman.

Lien source: https://thanhnien.vn/he-lo-chi-tiet-moi-ve-dien-bien-kich-tinh-o-openai-185231123091450477.htm