Probleemisse saab investeerida ainult teatud summa raha. Sarnast arvamust väljendatakse hiljutises tehisintellekti (AI) teadlaste küsitluses. Kui osalejatelt küsiti, kas olemasolevate AI meetodite "skaleerimine" võiks viia tehisüldintelligentsuse (AGI) arendamiseni – tüüpi AI, mis suudaks vastata või ületada inimkognitiivseid võimeid – pidas enamus, 76 protsenti vastajatest, seda "ebaoluliseks" või "väga ebaoluliseks". Küsitlus, milles osales 475 AI teadlast ja mille viis läbi Tehisintellekti Edendamise Assotsiatsiooni teadlased, avaldati uues raportis. Tulemused seavad tugevalt kahtluse alla tehnoloogia tööstuse soositud strateegia saavutada AI edusamme, suurendades generatiivsete mudelite jaoks vajalikku riistvara ja neid toetavaid andmekeskusi. Kuna AGI on kuulutatud AI arendajate lõppeesmärgiks, peetakse skaleerimist laialdaselt ebaefektiivseks lähenemiseks. Stuart Russell, UC Berkeley arvutiteadlane, kes aitas raportit korraldada, märkis NewScientist’ile: "Suured investeeringud skaleerimisse, ilma samasuguste jõupingutusteta aluseks olevate mehhanismide mõistmiseks, on alati tundunud vale suunana. Umbes aasta tagasi sai kõigile selgeks, et traditsioonilise skaleerimise eelised on tasandunud. " AI relvastuses ringlevad tohutud rahalised ressursid, investeeringud generatiivsesse AI-sse ületasid 2024. aastal üksi 56 miljardit dollarit riskikapitalina, teatas TechCrunch. Suur osa sellest on suunatud suurte andmekeskuste ehitamiseks ja hooldamiseks, mis on vajalikud generatiivsete mudelite jaoks.

Oluline on märkida, et Microsoft on lubanud investeerida 80 miljardit dollarit AI infrastruktuuri kuni 2025. aastani. Selle kulutuste tõusu kõrval on ka ühtviisi tohutu energiavajadus. Microsoft sõlmis hiljuti lepingu terve tuumaelektrijaama käivitamiseks, et varustada oma andmekeskusi elektriga, samas kui konkurendid nagu Google ja Amazon on samuti tõsiselt investeerinud tuumaenergia partnerlustesse. Eeldus, et skaleerimine võiks lõpmatult parandada AI-t, on alati olnud ebamugav. Hiljuti esitas Hiina idufirma DeepSeek väljakutse, arendades AI mudeli, mis suudaks konkureerida lääne juhtivate mitme miljardi dollari chatbot’idega, kasutades samas palju vähem ressursse ja energiat. Hoiatavad märgid piirangute lähenemisest olid varem välja tulnud. Novembris teatasid raportid, et OpenAI avastas, et viimane versioon tema GPT suures keelemudelis näitas oluliselt vähem paranemist, või mõnel juhul üleüldse mitte paremuse asemel eelkäijatega võrreldes. Detsembris teatas Google’i tegevjuht Sundar Pichai avalikult, et lihtsad AI edusammud on "lõppenud", kuid rõhutas, et ei olnud tunnet, et "skaleerimist tuleb lihtsalt jätkata". Selle taustal uuritakse nüüd tõhusamaid ja kuluefektiivsemaid strateegiaid. OpenAI on omaks võtnud meetodi, mida tuntakse kui testiajaga arvutamine, oma uusimates mudelites, võimaldades AI-l kulutada rohkem aega "mõtlema", enne kui valib parima lahenduse, võimaldades parandust, mis oleks muidu vajadanud ulatuslikku skaleerimist. Siiski hoiatab Princetoni Ülikooli arvutiteadlane Arvind Narayanan NewScientist’ile, et see meetod on "ebaoluline hõbedane kuuli lahendus". Teiselt poolt innovatsioonis korraldas DeepSeek lähenemise nimega "ekspertide segu", kasutades mitmeid spetsialiseeritud närvivõrke – igaüks on oma ala "ekspert" – lahenduste leidmiseks, mitte sõltuda ühest "üldist" mudelist. Siiski, Microsofti jätkuva lubaduse kohaselt investeerida miljardeid andmekeskustesse, näib, et tööstuse hiiglaste seas jätkub jõhkralt skaleerimine eelistatud meetodina, samas kui agiilsemad idufirmad otsivad innovatiivseid viise suurema efektiivsuse saavutamiseks väiksemate ressurssidega. Rohkem AI kohta: Hiina kuulutab, et kõik AI loodud materjalid peavad olema veebis märgistatud.