**La bulle de l'AGI perd de la vigueur** *Ralentissement* Le prochain modèle de langage d'OpenAI, nommé Orion, serait décevant, montrant moins de progrès que GPT-4 par rapport à son prédécesseur, GPT-3. Bloomberg rapporte que certains chercheurs chez OpenAI estiment qu'il n'y a pas d'améliorations, notamment dans des domaines comme la programmation. De plus, le nouveau modèle Gemini de Google ne répond pas aux attentes internes, et le calendrier pour le très attendu Claude 3. 5 Opus d'Anthropic reste incertain. Ces défis suggèrent que la méthode actuelle d'amélioration des modèles d'IA par le "scaling" pourrait atteindre ses limites. Poursuivre ces développements coûteux sans améliorations significatives de performance pourrait annoncer des difficultés économiques si l'objectif est d'atteindre une intelligence générale artificielle. Selon Margaret Mitchell, scientifique en chef de l'éthique chez la startup IA Hugging Face, "la bulle de l'AGI éclate un peu, " indiquant que de nouvelles approches d'entraînement pourraient être nécessaires pour atteindre une intelligence et une polyvalence similaires à celles de l'humain. *Technologie Gloutonne* La stratégie de croissance pour l'IA générative a principalement été le scaling : augmenter la puissance des modèles en agrandissant leur taille, ce qui implique plus de puissance de calcul de la part d'entreprises comme Nvidia et l'utilisation de vastes quantités de données d'entraînement collectées sur le web. Cependant, à mesure que les modèles grandissent, leurs besoins énergétiques augmentent également. Le coût est élevé : Microsoft, par exemple, envisage de relancer des centrales nucléaires pour soutenir ses centres de données IA.

Avec la gratuité des données d'entraînement qui se tarit, les entreprises technologiques se tournent vers les données synthétiques mais rencontrent encore des difficultés à obtenir des ensembles de données uniques et de haute qualité sans intervention humaine, comme l'a noté Lila Tretikov, responsable de la stratégie IA chez New Enterprise Associates. Pour illustrer ces dépenses : Dario Amodei, PDG d'Anthropic, a mentionné dans un podcast, cité par Bloomberg, que développer un modèle IA de pointe coûte actuellement environ 100 millions de dollars, avec des prévisions de dépassement des 10 milliards de dollars d'ici 2027. *Meilleurs jours derrière* Cette année, Anthropic a mis à jour ses modèles Claude, évitant Opus, et toutes les références à une sortie dans un avenir proche ont été supprimées de son site web. Selon Bloomberg, Opus a montré seulement de légères améliorations par rapport à sa taille et à son coût. De même, le logiciel Gemini de Google n'a pas répondu aux attentes, et les avancées majeures dans son modèle de langage étendu manquent. Ces obstacles ne sont pas insurmontables, mais il semble improbable que l'industrie de l'IA maintienne le rythme rapide de progrès observé au cours de la dernière décennie. "Nous étions très excités pendant une brève période de progrès très rapide, " a déclaré Noah Giansiracusa, professeur associé de mathématiques à l'Université Bentley, à Bloomberg. "Ce n'était tout simplement pas durable. " Pour en savoir plus sur l'IA : Un expert en IA avertit d'un crash imminent à mesure que les améliorations dans l'IA atteignent une impasse.