Le modèle de « superintelligence » à l'origine du scandale d'OpenAI

Selon des sources de Tech.co , alors que la controverse autour du licenciement puis du retour du PDG Sam Altman à la tête d'OpenAI faisait rage, une rumeur a circulé concernant une lettre envoyée par les chercheurs de l'entreprise au conseil d'administration, exprimant leurs inquiétudes quant au modèle de superintelligence artificielle en cours de développement, qui pourrait potentiellement constituer une menace pour l'humanité.

Projet Q*

Le modèle, connu en interne sous le nom de Projet Q* (prononcé Q-star), est considéré comme une avancée majeure dans la quête d'OpenAI pour l'intelligence artificielle générale (IAG) – une branche hautement autonome de la superintelligence capable d'apprentissage cumulatif et de surpasser les humains dans la plupart des tâches.

Selon des personnes au fait du dossier, Q* pourrait constituer un bond en avant majeur dans le domaine de l'intelligence artificielle en améliorant radicalement les capacités de raisonnement de l'IA et en rapprochant OpenAI d'une percée majeure dans le développement de l'AGI.

Contrairement aux modèles d'IA actuels, qui se concentrent sur la capacité à générer des réponses basées sur des informations apprises précédemment, l'AGI est un système autonome capable d'appliquer la « raison » aux décisions, ce qui lui confère des capacités de résolution de problèmes de niveau humain.

Bien que l'intelligence artificielle générale (IAG) ne soit pas encore pleinement réalisée, de nombreux experts estiment que cette technologie aura également la capacité d'apprendre de manière cumulative, une autre caractéristique qui permet aux humains d'améliorer leurs aptitudes.

Certaines sources affirment que Q*, le projet d'OpenAI, a démontré les propriétés susmentionnées lors de la résolution de problèmes. De plus, grâce à son immense puissance de calcul, Q* a surpassé des élèves du primaire, faisant preuve de capacités de raisonnement et cognitives remarquables, supérieures à celles des technologies d'IA actuelles.

On ignore depuis combien de temps Q* est en développement et quelles pourraient être ses applications, mais OpenAI a informé ses employés et les membres de son conseil d'administration du projet avant que le scandale lié au personnel n'éclate.

Problèmes éthiques

Si Sam Altman, PDG d'OpenAI, se dit convaincu que la technologie AGI stimulera l'innovation, certains chercheurs n'ont pas tardé à souligner les dangers potentiels du projet.

Dans une lettre adressée au conseil d'administration, les chercheurs ont mis en garde contre les dangers potentiels de cet algorithme puissant pour l'humanité. Les préoccupations éthiques spécifiques relatives à l'IA, exposées dans la lettre, n'ont pas été divulguées, mais ces avertissements ont suffi à justifier la décision du conseil de licencier Altman.

Entre-temps, le motif initial invoqué pour le licenciement d'Altman était sa « mauvaise communication ». Il a rapidement trouvé un nouveau poste chez Microsoft. Cette décision a incité 700 des 770 employés d'OpenAI à menacer de faire de même si le PDG n'était pas réintégré.

Face au risque d'effondrement de l'entreprise, le conseil d'administration d'OpenAI a été contraint de réintégrer Altman à son poste de direction, ce qui a également entraîné une refonte majeure de l'équipe dirigeante et mis en lumière de profondes divisions au sein de sa direction.

Maintenant qu'Altman est de retour au pouvoir et que le projet Q* pourrait de nouveau recevoir le feu vert, de nouvelles questions se posent.

Le projet Q* est-il réaliste ?

Si les jours tumultueux passés chez OpenAI ont mis le concept d'IA générale sur le devant de la scène, ce n'est pas la première fois qu'Altman évoque cette technologie.

En septembre, un entrepreneur de la Silicon Valley s'est retrouvé dans une situation délicate après avoir comparé l'IA générale à « un humain moyen que vous pourriez embaucher comme collègue ». Il réitérait des propos tenus l'année précédente, selon lesquels l'IA pourrait « faire tout ce qu'un collègue à distance peut faire », y compris apprendre à devenir un bon médecin et un bon programmeur.

Bien que la comparaison entre l'IA générale et l'intelligence d'un « être humain moyen » ne soit pas nouvelle, l'utilisation de cette expression par Altman a été jugée « abominable » par les spécialistes de l'éthique de l'IA et par Henry Shevlin, professeur à l'université de Cambridge, alors que les inquiétudes concernant l'impact de l'IA sur la sécurité de l'emploi s'intensifient.

Les avancées potentielles en matière d'IA générale suscitent également l'inquiétude d'autres chercheurs : cette technologie se développe plus vite que les humains ne peuvent en saisir pleinement l'impact.

OpenAI estime que les résultats positifs de l'IA générale justifient de s'aventurer sur ce terrain miné et risqué. Cependant, alors que l'entreprise poursuit ses efforts dans cette voie, nombreux sont ceux qui craignent qu'Altman ne privilégie le succès commercial au détriment des intérêts des utilisateurs et de la société.

Comment (0)