Branża AI mogła osiągnąć "szczyt danych, " według współzałożyciela OpenAI Ilyi Sutskevera, co sygnalizuje potencjalne spowolnienie postępów w dziedzinie AI z powodu wyczerpania użytecznych danych z internetu. Może to wpłynąć na przyszły rozwój modeli AI, które w dużej mierze polegają na wstępnym szkoleniu z wykorzystaniem obfitych danych. Mimo to wielu ekspertów AI bada sposoby obejścia tego problemu. Jednym z obiecujących podejść jest technika "compute w czasie testu" lub "compute w czasie inferencji, " która poprawia zdolności rozumowania AI przez rozbijanie złożonych zapytań na mniejsze zadania i przetwarzanie każdego z osobna, zanim przejdzie się dalej. Ta metoda pozwala modelom AI generować wyższej jakości wyniki, zwłaszcza w zadaniach z jednoznacznymi odpowiedziami, takich jak problemy matematyczne. Wyniki z tych modeli rozumowania mogą stać się nowymi danymi treningowymi, tworząc iteracyjną pętlę doskonalenia modelu.

Ta koncepcja została poparta przez badania Google DeepMind, które przewidują, że te wyniki mogą wzbogacać duże modele językowe (LLM) nawet po osiągnięciu ściany szczytu danych. OpenAI i podobne laboratoria AI zaczęły wdrażać modele stosujące tę technikę, takie jak "o1" OpenAI, które wykazują lepsze wyniki w niektórych testach. CEO Microsoftu, Satya Nadella, odniósł się do tej strategii jako kluczowego prawa skalowania dla postępu modeli AI, ponieważ dostarcza ona sposób na obejście ograniczeń danych przez wprowadzanie wyników modelu z powrotem do procesów szkoleniowych. Skuteczność compute w czasie testu będzie bardziej gruntownie oceniona do 2025 roku. Choć badacze, tacy jak Charlie Snell, są pełni nadziei, to przyznają wyzwania związane z uogólnieniem tej techniki do zadań bez ostatecznych odpowiedzi, takich jak pisanie esejów. Niemniej jednak istnieje optymizm, że dane syntetyczne wygenerowane przy użyciu tej metody mogą przewyższyć jakość istniejących danych z internetu, potencjalnie pomagając w szkoleniu przyszłych modeli AI. Już teraz pojawiają się spekulacje, że firmy takie jak DeepSeek użyły wyników z "o1" OpenAI do ulepszania swoich modeli, takich jak ich najnowszy "DeepSeek V3. " Podczas gdy przemysł bada te strategie, potencjał wykorzystania compute w czasie testu do pokonywania ograniczeń danych jest ostrożnie obiecujący, ale nadal w trakcie eksploracji.