Mark Zuckerberg, framkvæmdastjóri Meta, tilkynnti umtalsverðar framfarir í þjálfun skapandi AI á fjárhagsskýrslu á miðvikudaginn. Hann upplýsti að þróun á Llama 4 líkaninu er nú í gangi, og notaður er GPU hópur sem er stærri en nokkuð annað sem áður hefur verið greint frá, sérstaklega með fleiri en 100. 000 Nvidia H100 flögum. Fyrsta útgáfa af Llama 4 er væntanleg snemma á næsta ári, með minni líkönum líklega í boði fyrst. Þessi aukning í mælikvarða AI þjálfunar er talin vera mikilvæg fyrir að þróa háþróaðri AI líkön. Þó að Meta virðist hafa forskot, þá eru reynslumiklir þátttakendur á AI sviðinu einnig að stunda stórar útreikningarhópa. Í mars var tekið fram að Meta og Nvidia höfðu áður unnið með um 25. 000 H100s fyrir Llama 3, á meðan Elon Musk hélt því fram að xAI fyrirtæki hans hafi komið á svipuðu fyrirkomulagi með 100. 000 H100s. Zuckerberg gaf í skyn möguleika Llama 4 á nýjum stigum, sterkari röksemdarfærlu, og hraðari frammistöðu, þó hann gerði ekki grein fyrir sérstakri getu. Ólíkt sérhæfðum líkönum frá OpenAI og Google má Meta's Llama líkönu hlaða niður ókeypis, sem hefur hrifað nýjungafyrirtæki og vísindamenn sem vilja hafa meiri stjórn á AI kerfum sínum.

Hins vegar, fylgir opinn uppspretta með takmörkunum á viðskiptalegri notkun, og Meta gefur ekki út þjálfunarefni. Að stjórna svo umfangsmiklum fjölda flaga fyrir Llama 4 veldur verkfræði- og orkumaðurleikum. Það er áætlað að hópur af þessari stærð myndi krefjast 150 megawatta af orku, á meðan stærsta Ofurtölvan í Bandaríkjunum, El Capitan, notar aðeins 30 megawatta. Meta ætlar að eyða allt að 40 milljörðum dala á þessu ári í innviði, sem endurspeglar 42% aukningu frá 2023. Þrátt fyrir að rekstrarkostnaður hækki um 9%, hefur heildarsala Meta af auglýsingum aukist um meira en 22%, sem leiðir til hærri framlegðar og hagnaðar jafnvel þótt verulegir fjármunir séu ráðandi í Llama verkefnum. Á hinn bóginn stendur OpenAI, sem er leiðandi þróunartafl AI, frammi fyrir áskorunum, nú í þjálfun stærri GPT-5 líkans eins og það sé rekið sem nonprofit verkefni. Zuckerberg varði opna uppsprettu stefnu Meta og fullyrðir að hún sé kostnaðarvirk og traustari samanborið við sérhæfð kerfi. Hann telur að Llama 4 mun bæta við margs konar nýjungar á vettvangi Meta, þar á meðal Meta AI spjallið sem er vinsælt, sem laðar að sér yfir 500 milljón notendur á mánuði. Fyrirtækið sér fyrir sér möguleika til að hagnast í gegnum auglýsingar í þessari viðbót, sem gefur til kynna leið til að niðurgreiða Llama fyrir breiðari aðgang.