Le monde n'est pas prêt pour l'intelligence artificielle générale (IAG), ni pour le moment où l'intelligence artificielle sera aussi intelligente que le cerveau humain, selon un chercheur principal d'OpenAI.
L'intelligence artificielle générale représente-t-elle un risque ?
Depuis des années, les chercheurs spéculent sur l'émergence d'une intelligence artificielle générale (IAG), où des systèmes artificiels seront capables d'accomplir un large éventail de tâches aussi bien que les humains. Nombreux sont ceux qui perçoivent son émergence comme un risque existentiel, car elle pourrait permettre aux ordinateurs de fonctionner de manières inimaginables pour l'être humain.
Selon M. Miles Brindage, le monde n'est pas prêt pour l'ère de l'intelligence artificielle générale (IAG).
L'homme chargé de veiller à ce qu'OpenAI, développeur de ChatGPT, soit prêt pour l'intelligence artificielle générale (IAG) admet désormais que ni le monde ni l'entreprise elle-même ne sont « prêts » pour la prochaine étape. Miles Brundage, qui occupait le poste de « conseiller principal d'OpenAI sur la préparation à l'IAG », a annoncé son départ cette semaine, suite à la dissolution du groupe au sein de l'entreprise.
« Ni OpenAI, ni aucun autre laboratoire pionnier n’est prêt (pour l’IA générale), et le monde ne l’est pas non plus. Pour être clair, je ne pense pas que ce soit une déclaration controversée au sein de la direction d’OpenAI, mais plutôt une question de savoir si l’entreprise et le monde sont en bonne voie d’être prêts au moment opportun », a déclaré Brundage, qui a passé six ans à contribuer à l’élaboration des initiatives de l’entreprise en matière de sécurité de l’IA.
Le départ de Brundage s'inscrit dans une série de départs notables au sein des équipes de sécurité d'OpenAI. Jan Leike, chercheur de renom, a quitté l'entreprise après avoir déclaré que « la culture et les processus de sécurité ont été relégués au second plan au profit de produits attrayants ». Le cofondateur Ilya Sutskever a également quitté OpenAI pour lancer sa propre start-up spécialisée dans l'IA et axée sur le développement d'une intelligence artificielle générale (IAG) sûre.
La dissolution par Brundage de son groupe « Préparation à l'IA générale » intervient quelques mois seulement après la dissolution par l'entreprise de son groupe « Superalignement » dédié à l'atténuation des risques à long terme liés à l'IA, révélant des tensions entre la mission initiale d'OpenAI et ses ambitions commerciales.
La pression sur les profits pousse OpenAI à sortir de la voie de la sécurité.
OpenAI serait sous pression pour passer du statut d'organisation à but non lucratif à celui d'entreprise à but lucratif d'ici deux ans, sous peine de perdre les fonds levés lors de sa récente levée de fonds de 6,6 milliards de dollars. Cette transition vers la commercialisation inquiète depuis longtemps Brundage, qui a exprimé des réserves dès 2019, date à laquelle OpenAI a créé sa division à but lucratif.
Le PDG d'OpenAI, Sam Altman, souffre de « maux de tête » en raison de la pression exercée sur l'entreprise pour générer des profits.
Pour expliquer son départ, Brundage a évoqué les restrictions croissantes imposées à sa liberté de recherche et de publication au sein de cette entreprise de renom. Il a insisté sur la nécessité d'une voix indépendante dans les débats sur les politiques d'IA, affranchie des préjugés et des conflits d'intérêts de l'industrie. Ayant conseillé la direction d'OpenAI sur ses préparatifs internes, il estime pouvoir désormais exercer une influence plus importante sur la gouvernance mondiale de l'IA depuis l'extérieur de l'organisation.
Ces départs témoignent également d'un profond clivage culturel au sein d'OpenAI. Nombre de chercheurs, initialement engagés pour faire progresser la recherche en IA, se retrouvent désormais dans un environnement de plus en plus axé sur le produit. La répartition des ressources internes est devenue un sujet de discorde : selon certaines sources, l'équipe de Leike se serait vue refuser la puissance de calcul nécessaire à ses recherches sur la sécurité avant d'être dissoute.
Ces derniers mois, OpenAI a dû répondre à des questions concernant ses projets de développement de l'intelligence artificielle et son approche de la sécurité. Bien que fondée en tant qu'organisation à but non lucratif dédiée à la recherche sur la conception d'une intelligence artificielle sûre, le succès de ChatGPT a entraîné d'importants investissements et des pressions pour exploiter cette nouvelle technologie à des fins lucratives.
Source : https://www.baogiaothong.vn/the-gioi-chua-san-sang-phat-trien-ai-thong-minh-nhu-bo-nao-con-nguoi-192241027005459507.htm
Comment (0)