Az AI vállalatok gyakran tartanak attól, hogy az Nvidia gyorsan megszüntetheti erőfeszítéseiket, de Tuhin Srivastava, az AI inferencia platform, a Baseten társalapítója nyugodtnak maradt ebben a helyzetben. „Ez az AI-vel kapcsolatban mind — el kell égetni a hajókat, ” mondta Srivastava a Business Insidernek, jelezve elkötelezettségét arra, hogy előre lépjen a bizonytalanság ellenére is. Bár még nem hagyta teljesen maga mögött a jelenlegi megközelítését, felkészült a változásra. Az év elején a DeepSeek áttörést hozó AI modellje kihívást jelentett Srivastava és csapata számára, akik nehézségekbe ütköztek az inferencia skálázásában—az a számítási folyamat, amely AI kimeneteket generál—bonyolult szűk keresztmetszetek miatt, amelyek lassították a modellek válaszidejét. A Baseten ügyfelei gyorsabb hozzáférést követeltek. Bár a Baseten rendelkezett Nvidia vadonatúj H200-as chipjeivel, amelyek képesek futtatni a fejlett modellt, az Nvidia Triton Inference Server szoftvere hibázott a nagy inferencia terhelés alatt. Ennek leküzdésére a Baseten saját inferencia platformot fejlesztett ki, amelyet továbbra is használ. Azonban márciusban az Nvidia bemutatta a Dyanmot, egy új nyílt forráskódú inferencia platformot a GTC konferencián, amelyet nagyobb mértékű érvelési modellek hatékony kezelésére terveztek. Jensen Huang, az Nvidia vezérigazgatója a Dyanmot az „AI gyár operációs rendszerének” nevezte. Srivastava elismerte, hogy Nvidia lépése elkerülhetetlen volt, és úgy gondolja, hogy amint Nvidia platformja felülmúlja a Basetent, csapata gyorsan váltani fog és alkalmazni fogja—ez a váltás csak néhány hónapot vesz majd igénybe. Az AI tér dinamikus: a modellek folyamatosan egyre összetettebbek lesznek, óriási számítási kapacitást és mérnöki szakértelmet igényelnek, de később gyakran zsugorodnak, ahogy hatékonyságok és matematikai fejlesztések jönnek. A fejlesztőknek egyensúlyt kell találniuk a költség, a sebesség, a pontosság és a hardverigények között, folyamatosan újrafelosztva stratégiáikat.

Karl Mozurkewich, a cloud cég, a Valdi főépítésze óvatosságra int, hogy ne ragadjunk meg egyetlen keretrendszernél vagy módszernél. Hasonlóképpen, a fejlesztő és YouTube tartalomkészítő, Theo Brown, akinek cége, a Ping AI eszközöket épít, értékeli, hogy az AI hajlandó régen „szentnek” tartott iparági gyakorlati értékeket olcsóvá és eldobhatóvá tenni. Korai pályafutásában Brown megtanulta, hogy proaktívan gyorsan újraépítse projektjeit, ahelyett, hogy beragadt volna az elköltött költségek csapdájába vagy várakozott volna engedélyre. Ez az agilis, kitartó megközelítés jellemző a vezető AI innovátorokra, és megkülönbözteti a startupokat a nagyobb vállalatoktól. Quinn Slack, az AI kódoló platform, a Sourcegraph vezérigazgatója szerint az Fortune 500 cégeinek kb. 80%-át egyetlen találkozónak sikerül meggyőzni, hogy elhagyja törékeny korai AI rendszerét és jobb megoldásokat alkalmazzon. Eközben Ben Miller, a Fundrise vezérigazgatója, egy ingatlanbefektetési platform, amely AI-t integrál, óvatosabb álláspontot képvisel. Ő a megbízható modelleket helyezi előtérbe, amelyek megfelelnek a termék igényeinek, ahelyett, hogy a legújabb innovációkat üldözné, amelyek nem mindig érik meg a mérnöki időt—különösen nagyobb szervezeteknél és magasabb szintű szoftverfejlesztési vetületeknél. Az AI rétegei az Nvidia GPU-któl indulnak hardver szinten, keresztül platformok, mint a Baseten, fel az AI modellekhez, mint az R1 vagy a GPT-4o, végül pedig a fogyasztói alkalmazásokhoz, mint Milleré. Mozurkewich megjegyzi, hogy a “szellőzővágó” technológiák fejlesztése nem garantálja a növekedést az ügyfelek vagy a bevételek terén; a végfelhasználói szinten a gyors változás és zavargás már nem hoz olyan arányos eredményeket. Összefoglalva, az AI fejlesztéséhez szükség van arra, hogy készségesen gyorsan alkalmazkodjunk a technológiai változásokhoz, miközben pragmatikusak maradunk az új vívmányok elfogadásának időzítésében és mértékében. Ez a dinamikus környezet folyamatos fejlődést tesz lehetővé, amit az olyan nagyvállalatok, mint az Nvidia, és az agilis startupok, akik bátran égetik el hajóikat, és újraépítik magukat, egyaránt támogatnak.