Elon Musk bie dakord me ekspertët e tjerë të AI se ka mungesë të të dhënave reale për trajnim të modeleve të AI. Gjatë një bisede të transmetuar drejtpërdrejt me kryetarin e Stagwell, Mark Penn, në X, Musk theksoi: "Ne kemi konsumuar në thelb shumën kumulative të njohurive njerëzore në trajnim të AI, " duke vërejtur se kjo ngritje ndodhi vitin e kaluar. Musk, i cili drejton kompaninë e AI xAI, përsëriti ndjenjat nga ish-shkencëtari kryesor i OpenAI, Ilya Sutskever, i cili adresoi këtë çështje në konferencën e mësimit të makinerive NeurIPS në dhjetor. Sutskever përmendi se industria e AI kishte arritur “kulmin e të dhënave, ” duke parashikuar se mungesa e të dhënave për trajnim do të kërkojë një ndryshim në praktikat aktuale të zhvillimit të modeleve. Musk sugjeroi se të dhënat sintetike, të gjeneruara nga vetë AI-ja, janë rruga përpara, duke thënë: "E vetmja mënyrë për të plotësuar [të dhënat reale] është me të dhëna sintetike, ku AI krijon [të dhëna trajnimi]. Me të dhëna sintetike, [AI] do të vlerësojë veten dhe do të angazhohet në vetë-mësim. " Shumë kompani, duke përfshirë Microsoft, Meta, OpenAI dhe Anthropic, tashmë po inkorporojnë të dhëna sintetike për të trajnuar modelet e tyre kryesore të AI-së.

Sipas Gartner, 60% e të dhënave të përdorura për AI dhe projekte të analitikës në 2024 do të jenë të gjeneruara në mënyrë sintetike. Phi-4 i hapur rishtazi nga Microsoft u trajnua duke përdorur si të dhëna sintetike, ashtu edhe reale, ashtu si modelet Gemma të Google. Anthropic gjithashtu përdori të dhëna sintetike për sistemin e saj të fuqishëm Claude 3. 5 Sonnet, dhe Meta përshtati serinë e saj të fundit të modeleve Llama me të dhëna të gjeneruara nga AI. Trajnimi i modeleve në të dhëna sintetike gjithashtu ofron përfitime të kostos. Startup-i i AI Writer pretendon se modeli i saj Palmyra X 004, i ndërtuar kryesisht mbi burime sintetike, kushtoi vetëm 700, 000 dollarë për t'u zhvilluar, krahasuar me 4. 6 milionë të vlerësuara për një model me madhësi të ngjashme nga OpenAI.