Industria e inteligjencës artificiale mund të ketë arritur "kulmin e të dhënave", sipas bashkëthemeluesit të OpenAI, Ilya Sutskever, duke sinjalizuar një ngadalësim potencial në avancimet e IA-së për shkak të shterimit të të dhënave të dobishme nga interneti. Kjo mund të ndikojë në rritjen e ardhshme të modeleve IA, të cilat varen shumë nga para-trajnimi me të dhëna të bollshme. Megjithatë, shumë ekspertë të IA po eksplorojnë mënyra për të kapërcyer këtë çështje. Një qasje premtuese është teknika e "llogaritjes në kohën e testimit" ose "llogaritjes gjatë inferimit", e cila përmirëson aftësitë e arsyetimit të IA-së duke ndarë pyetjet komplekse në detyra më të vogla dhe duke i përpunuar secilën veçmas para se të vazhdojë. Kjo metodë u lejon modeleve IA të gjenerojnë rezultate të cilësisë më të lartë, veçanërisht në detyra me përgjigje të qarta si problemet matematikore. Rezultatet nga këto modele të arsyetimit mund të bëhen të dhëna të reja trajnimi, duke formuar një qark të përmirësimit të modelit.

Ky koncept u mbështet nga kërkime të Google DeepMind, e cila parashikon që këto rezultate të përmirësojnë modelet e mëdha gjuhësore (LLMs) edhe pasi të kenë arritur murin e kulmit të të dhënave. OpenAI dhe laboratorë të ngjashëm IA kanë filluar të vendosin modele që përdorin këtë teknikë, si "o1" e OpenAI, e cila tregoi performancë superiore në disa vlerësime. CEO i Microsoft, Satya Nadella, e ka cilësuar këtë strategji si një ligj thelbësor të shkallëzimit për avancimin e modeleve IA, pasi ofron një mënyrë për të kapërcyer kufizimet e të dhënave duke ushqyer rezultatet e modelit prapa në proceset e trajnimit. Efektiviteti i llogaritjes në kohën e testimit do të vlerësohet më hollësisht deri në vitin 2025. Ndërsa studiuesit si Charlie Snell janë shpresëplotë, ata pranojnë sfidat në përgjithësimin e teknikës për detyrat pa përgjigje përfundimtare, siç është shkrimi i eseve. Megjithatë, ka optimizëm që të dhënat sintetike të gjeneruara përmes kësaj metode mund të tejkalojnë cilësinë e të dhënave ekzistuese të internetit, duke ndihmuar potencialisht në trajnimin e modeleve IA të ardhshme. Disa spekulime tashmë sugjerojnë që kompani si DeepSeek kanë përdorur rezultate nga "o1" e OpenAI për të përmirësuar modelet e tyre, si "DeepSeek V3" e fundit e tyre. Ndërsa industria shkel këto strategji, potenciali për të përdorur llogaritjen në kohën e testimit për të kapërcyer kufizimet e të dhënave është me kujdes premtues por ende në eksplorim.