Le modèle de « superintelligence » à l'origine de la controverse OpenAI

Selon les sources de Tech.co , alors que la controverse entourant le licenciement du PDG Sam Altman et son retour ultérieur chez OpenAI se déroulait, une des rumeurs qui circulaient concernait une lettre envoyée par les chercheurs de l'entreprise au conseil d'administration, exprimant des inquiétudes quant au fait que le modèle de superintelligence artificielle en développement puisse potentiellement constituer une menace pour l'humanité.

Projet Q*

Le modèle, connu en interne sous le nom de Projet Q* (prononcé Q-star), est présenté comme représentant potentiellement une avancée majeure dans la quête d'OpenAI pour une intelligence artificielle générale (IAG) – une branche hautement autonome de la superintelligence capable d'apprentissage cumulatif et de surpasser les humains dans la plupart des tâches.

Selon des sources proches du dossier, Q* pourrait constituer un bond en avant majeur dans le domaine de l'intelligence artificielle en améliorant radicalement les capacités de raisonnement de l'IA et en rapprochant OpenAI d'une percée majeure dans le développement de l'AGI.

Contrairement aux modèles d'IA actuels, qui se concentrent sur la génération de réponses basées sur des informations pré-apprises, l'AGI est un système autonome capable d'appliquer la « raison » aux décisions, ce qui lui confère la capacité de résoudre des problèmes à un niveau humain.

Bien que l'intelligence artificielle générale (IAG) ne soit pas encore pleinement réalisée, de nombreux experts estiment que cette technologie aura également le potentiel d'un apprentissage cumulatif, une autre caractéristique qui permet aux humains d'améliorer leurs capacités.

D'après certaines sources, Q*, un projet d'OpenAI, a démontré les propriétés susmentionnées lors de la résolution de problèmes. De plus, grâce à son immense puissance de calcul, Q* a surpassé des élèves du primaire, faisant preuve de capacités de raisonnement et cognitives bien supérieures à celles des technologies d'IA actuelles.

On ignore depuis combien de temps Q* est en développement et quelles pourraient être ses applications potentielles, mais OpenAI a informé ses employés et les membres de son conseil d'administration du projet avant que la controverse concernant le personnel n'éclate.

Problèmes éthiques

Si Sam Altman, PDG d'OpenAI, est convaincu que la technologie AGI stimulera l'innovation, certains chercheurs n'ont pas tardé à souligner les dangers potentiels du projet.

Dans une lettre adressée au conseil d'administration, les chercheurs ont mis en garde contre le danger potentiel que représente cet algorithme puissant pour l'humanité. Les préoccupations éthiques spécifiques relatives à l'IA, exposées dans la lettre, n'ont pas été divulguées, mais ces avertissements ont suffi à justifier la décision du conseil de licencier Altman.

Entre-temps, le motif initial invoqué pour le licenciement d'Altman était son « manque de compétences en communication ». Peu après, il a trouvé un poste chez Microsoft. Cette décision a incité 700 des 770 employés d'OpenAI à menacer de faire de même si le PDG n'était pas réintégré.

Alors que l'entreprise était au bord de l'effondrement, le conseil d'administration d'OpenAI a été contraint de reconduire Altman à son poste de direction, ce qui a également entraîné une refonte majeure de l'équipe dirigeante et mis en lumière de profondes divisions au sein de sa direction.

Maintenant qu'Altman a repris ses fonctions et que le projet Q* est susceptible d'être à nouveau relancé, de nouvelles questions se posent.

Le projet Q* est-il réaliste ?

Bien que la période tumultueuse qu'a traversée OpenAI ait mis le concept d'IA générale sur le devant de la scène, ce n'est pas la première fois qu'Altman évoque cette technologie.

En septembre dernier, cet entrepreneur de la Silicon Valley s'est attiré des ennuis après avoir comparé l'IA générale à « un être humain moyen que l'on pourrait embaucher comme collègue ». Il a ensuite réitéré des propos tenus l'année précédente, selon lesquels cette IA pourrait « faire tout ce qu'un collègue à distance peut faire », y compris apprendre à devenir médecin et bon programmeur.

Bien que la comparaison entre l'IA générale et l'intelligence d'un « être humain moyen » ne soit pas nouvelle, l'utilisation de cette expression par Altman a été jugée « dégoûtante » par les spécialistes de l'éthique de l'IA et par Henry Shevlin, professeur à l'université de Cambridge, alors que les inquiétudes concernant l'impact de l'IA sur la sécurité de l'emploi s'intensifient.

Les avancées potentielles dans le domaine de l'IA générale inquiètent également d'autres chercheurs : cette technologie se développe plus vite que l'on ne peut en comprendre pleinement l'impact.

OpenAI estime que les résultats positifs de l'IA générale justifient de s'aventurer dans ce domaine risqué et semé d'embûches. Cependant, face à la progression constante de l'entreprise dans cette direction, nombreux sont ceux qui craignent qu'Altman ne privilégie le succès commercial au détriment des utilisateurs et de la société.

Phuong Anh (Source : Tech.co, The Guardian)

Source