Do problému lze investovat jen určité množství peněz. Tento pocit se odráží v nedávném průzkumu mezi výzkumníky umělé inteligence. Když byli dotázáni, zda „zvyšování rozsahu“ stávajících metod AI může vést k vývoji umělé obecné inteligence (AGI) – typu AI, která by mohla odpovídat nebo překonávat lidské kognitivní schopnosti – ohromných 76 procent respondentů považovalo úspěch za „nepravděpodobný“ nebo „velmi nepravděpodobný“. Tento průzkum, který obsahoval odpovědi od 475 výzkumníků AI a byl proveden vědci z Asociace pro pokrok v umělé inteligenci, byl zveřejněn v novém reportu. Zjištění silně zpochybňují preferovanou strategii technologického průmyslu, která spočívá v dosažení pokroku AI prostřednictvím zvyšování hardwaru pro generativní modely a datových center, která je podporují. S AGI jako vyhlášeným konečným cílem pro vývojáře AI je převládající názor, že zvyšování rozsahu je považováno za převážně neefektivní přístup. Stuart Russell, počítačový vědec z UC Berkeley zapojený do organizace reportu, poznamenal pro NewScientist: „Obrovské investice do zvyšování rozsahu, bez paralelních snah pochopit základní mechanismy, mi vždy přišly mylné. Asi před rokem se všem jasně ukázalo, že výhody konvenčního zvyšování rozsahu dosáhly svého maxima. “ V oboru AI cirkulují obrovské finanční prostředky; investice do generativní AI v roce 2024 přesáhly 56 miliard dolarů pouze ve formě venture capital, uvádí TechCrunch. Významná část z těchto prostředků je určena na výstavbu a údržbu velkých datových center nezbytných pro generativní modely.

Zajímavé je, že Microsoft se zavázal investovat 80 miliard dolarů do AI infrastruktury do roku 2025. Tento náraz v utrácení s sebou nese stejně ohromující energetickou poptávku. Microsoft nedávno podepsal smlouvu na aktivaci celé jaderné elektrárny k dodávce elektřiny pro svá datová centra, zatímco konkurenti jako Google a Amazon se také zapojili do významných partnerství v oblasti jaderné energie. Domněnka, že zvyšování rozsahu může AI neomezeně zlepšovat, byla vždy precarious. Nedávná výzva od čínského startupu DeepSeek, který vyvinul AI model schopný konkurovat předním multibilionovým chatbotům ze Západu za zlomek nákladů a energie, to exemplifikuje. Varování před blížícími se omezeními se objevila dříve. V listopadu se objevily zprávy, že OpenAI zjistila, že nejnovější verze jejího velkého jazykového modelu GPT prokázala výrazně menší zlepšení, nebo v některých případech žádné zlepšení ve srovnání s jejími předchůdci. V prosinci generální ředitel Google Sundar Pichai veřejně prohlásil, že snadné pokroky v AI jsou „u konce“, ale uvedl, že není důvod „jen pokračovat v zvyšování rozsahu“. Vzhledem k tomu se nyní zkoumají efektivnější a nákladově výhodnější strategie. OpenAI přijala metodu známou jako test-time compute u svých nejnovějších modelů, která umožňuje AI strávit dodatečný čas „přemýšlením“ před výběrem nejlepšího řešení, což přináší zlepšení, které by jinak vyžadovalo rozsáhlé zvyšování. Nicméně počítačový vědec z Princeton University Arvind Narayanan varoval NewScientist, že tato metoda je „nepravděpodobně stříbrná kulka“. Na druhou stranu, DeepSeek inovoval přístup nazvaný „směs odborníků“, využívající více specializovaných neuronových sítí – každá je „odborníkem“ ve svém oboru – k odvozování řešení, místo aby spoléhal na jeden „generalistický“ model. Navzdory tomu se zdá, že s pokračujícím závazkem Microsoftu investovat miliardy do datových center zůstane drtivé zvyšování rozsahu preferovanou metodou pro průmyslové velikány, zatímco obratnější startupy hledají inovativní způsoby, jak dosáhnout větší efektivity s méně zdroji. Více o AI: Čína oznamuje, že veškerý materiál generovaný AI musí být online označen.