Големите технолошки компании се стремат да ги направат нивните AI системи поефикасни поради зголемените трошоци за пресметување. Оваа промена на фокусот од чиста моќност кон оптимизирана изведба го трансформира индустријата. Оптимизацијата на AI вклучува усовршување на софтверот за да се зголеми изведбата додека се користи помалку пресметувачка моќ, правејќи ги операциите поодржливи. На пример, партнерството на Meta со AWS го оптимизираше нивниот AI модел Llama за различни пресметувачки околини. Операцијата на напредна AI бара скапа инфраструктура, при што центрите за податоци и специјализираните процесори консумираат значителна енергија. Ова доведе до иновации во софтверската архитектура, како што е Google-овата техника за квантитативно намалување и подобрувањата на Meta во нивните Llama AL модели, кои ги намалуваат потребите за пресметување и овозможуваат помали модели да работат добро. Ефикасноста се проширува повеќе од контрола на трошоците. Apple-овото машинско учење на уредот за Face ID и Google-овото преведување на уредот во Android покажуваат како оптимизацијата овозможува софистицирани софтвери на мобилни уреди.

Qualcomm-овиот AI Engine дозволува смартфоните да извршуваат неурални мрежи локално, подобрувајќи карактеристики како превод во реално време и напредни можности на камерата. Облачни провајдери како Microsoft Azure и AWS воведоа специјализирани инстанции за оптимизирани AI работни товари, подобрувајќи ја распределбата на ресурсите. Nvidia-овиот H100 GPU означува промена на индустријата кон оптимизација, подобрувајќи ги LLM операциите со динамички прилагодување на прецизноста. Се појавуваат нови техники за оптимизација. Google-овото тренирање со ретки модели се фокусира на клучни неурални конекции за да ги намали потребите за пресметување, додека специјализираните AI акцелератори на Intel имаат за цел ефикасност во хардверот. Надвор од Силиконската долина, оптимизираните модели за машинско учење помагаат во здравството и финансискиот сектор да користат софистицирани процеси на стандардна опрема. Настојувањето за оптимизација е исто толку важно колку и иновацијата, овозможувајќи компаниите да понудат поспособни услуги додека ги контролираат трошоците. Овој тренд означува фундаментална промена во дизајнерската филозофија, нагласувајќи одржливи и прагматични решенија над чистата пресметувачка моќ.