Nvidia, kendt som den Taylor Swift inden for teknologivirksomheder, har majoritetsmarkedsandelen inden for fremstilling af AI-chips og har kunder, der er villige til at betale en høj pris og vente på deres teknologi. Udfordringen ved at udskifte chips og effektiviteten af Nvidias CUDA-software bidrager til deres loyale kundebase. Dog indikerer nylige meddelelser fra virksomheder som Meta, Alphabet og AMD en potentiel trussel mod Nvidias markedsmæssige dominans. Det er udfordrende for udviklere at skifte mellem forskellige chips til forskellige AI-opgaver, og det skaber muligheder for konkurrenter.

Software spiller en stadig vigtigere rolle i at optimere forskellige hardwareplatforme og mindske afhængigheden af én enkelt leverandør som Nvidia. Selvom Nvidia excellerer i at træne AI-modeller, er deres GPU'er ikke lige så velegnede til inferens, hvilket påvirker profitmargenerne. Startups som Groq udvikler specialiserede chips til inferens for at imødekomme denne udfordring. På trods af deres forskelle ser Groq Nvidia som en kollega snarere end en konkurrent og tror på, at øget succes inden for inferens vil føre til mere investering i træning og dermed flere salg for Nvidia.