Nvidia, connue comme la Taylor Swift des entreprises technologiques, détient la part de marché majoritaire dans la fabrication de puces d'intelligence artificielle, avec des clients prêts à payer un prix élevé et à attendre leur technologie. La difficulté de remplacer les puces et l'efficacité du logiciel CUDA de Nvidia contribuent à sa base de clients fidèles. Cependant, les annonces récentes de sociétés comme Meta, Alphabet et AMD indiquent une menace potentielle pour la domination de Nvidia sur le marché. Le passage d'une puce à une autre pour différentes tâches d'IA est un défi pour les développeurs, et cela crée des opportunités pour les concurrents.

Le logiciel joue un rôle de plus en plus important dans l'optimisation des différentes plates-formes matérielles, réduisant la dépendance vis-à-vis d'un seul fournisseur comme Nvidia. Bien que Nvidia excelle dans la formation de modèles d'IA, leurs GPU ne sont pas aussi adaptés pour l'inférence, ce qui affecte les marges bénéficiaires. Des startups comme Groq développent des puces spécialisées pour l'inférence afin de combler cette lacune. Malgré leurs différences, Groq voit Nvidia comme un collègue plutôt que comme un concurrent et est convaincue qu'une plus grande réussite en matière d'inférence entraînera davantage de dépenses pour la formation et, par conséquent, plus de ventes pour Nvidia.