Cette analyse provient d'une note interne récemment divulguée du géant de la recherche. Dans ce même document, les dirigeants de Google expriment leur profonde inquiétude quant à la possibilité d'un échec dans la course actuelle à l'intelligence artificielle.
Un représentant de Google a par la suite confirmé l'authenticité du document, déclarant qu'il s'agissait simplement de l'opinion d'une personne au sein de l'entreprise, mais a reconnu qu'ils « ne sont pas en mesure de gagner cette course, et OpenAI non plus ».
Le géant de la recherche estime que la communauté open source surpasse les principales entreprises d'IA, même si leurs produits ont un léger avantage en termes de qualité, mais « l'écart se réduit incroyablement vite ».
La taille du capital n'est pas le facteur déterminant.
L'intelligence artificielle suscite un vif intérêt auprès du grand public depuis fin 2022, notamment grâce au lancement de ChatGPT, un chatbot basé sur les LLM (modèles de langage à grande échelle) développés par OpenAI, une start-up étroitement liée à Microsoft. Le succès de ce produit a incité Google et de nombreuses autres entreprises technologiques à se lancer dans la course aux LLM.
Les modèles LLM sont entraînés à l'aide de milliards de mots extraits d'Internet afin de générer des textes ou des conversations qui ressemblent au langage humain. Ce processus prend des mois et coûte des dizaines de millions de dollars, ce qui fait craindre que l'IA ne soit dominée par de riches entreprises technologiques.
Cependant, des documents internes de Google suggèrent que cette hypothèse est erronée. Des chercheurs de la communauté open source exploitent des ressources en ligne gratuites et obtiennent des résultats comparables à ceux des plus grands modèles propriétaires actuels.
En conséquence, les LLM peuvent être « ajustés » grâce à une technique appelée adaptation de bas niveau, ou LoRa, qui permet d'optimiser rapidement un LLM existant pour une tâche spécifique, et ce à un coût bien inférieur à celui de l'entraînement d'un LLM à partir de zéro.
Par exemple, en mars, LLaMa, un modèle créé par Meta (la société mère de Facebook), a fuité en ligne. Bien que petit et relativement « primitif » avec seulement 7 milliards de paramètres, contre 540 milliards pour le plus grand modèle linéaire de Google, LLaMa a rapidement été perfectionné pour produire des résultats comparables à la version originale de ChatGPT sur certaines tâches.
Cela pourrait avoir un impact considérable sur l'avenir du développement de l'IA, car « les obstacles à la formation et aux tests, qui nécessitaient auparavant un grand centre de recherche, ont été réduits à une seule personne, une soirée et un ordinateur portable haute performance. »
Le combat entre le géant Goliath et le berger David
Désormais, un LLM peut être optimisé pour seulement 100 dollars en quelques heures. Grâce à son modèle flexible, interconnecté et peu coûteux, « l'IA open source possède un avantage considérable » que les grandes entreprises comme Google ne peuvent reproduire. Par conséquent, le document conclut que Google et OpenAI sont vulnérables face à ces concurrents open source.
« Je ne pense pas avoir besoin d'un modèle aussi puissant que ChatGPT-4 pour de nombreuses tâches », a déclaré Simon Willison, programmeur et analyste technologique, à NBC. « La question est maintenant de savoir dans quelle mesure les modèles peuvent être simplifiés tout en restant utiles. C'est une question que la communauté open source explore très rapidement. »
Cela correspond parfaitement à l'opinion de nombreux experts selon laquelle la plus grande force peut aussi être la plus grande faiblesse si elle est exploitée et observée correctement, comme dans l'histoire du géant Goliath vaincu par le petit berger David avec une simple fronde.
Cependant, en ce qui concerne le développement de l'IA, ce point de vue ne fait pas l'unanimité. En effet, des logiciels propriétaires et payants existent toujours, tels qu'Adobe Photoshop ou Microsoft Windows, et le domaine de l'IA pourrait bien suivre une trajectoire de développement similaire.
(Selon Economist, Yahoo Finance)
Source






Comment (0)