Основні технологічні компанії намагаються зробити свої системи штучного інтелекту більш ефективними через зростання витрат на обчислення. Ця зміна фокусу з потужності на оптимізацію продуктивності змінює галузь. Оптимізація штучного інтелекту полягає у вдосконаленні програмного забезпечення для поліпшення продуктивності при зниженні використання обчислювальної потужності, що робить операції більш сталими. Наприклад, партнерство Meta з AWS дозволило оптимізувати модель штучного інтелекту Llama для різних обчислювальних середовищ. Виконання просунутого штучного інтелекту вимагає дороговартісної інфраструктури, де центри обробки даних і спеціалізовані процесори споживають значну кількість електроенергії. Це призвело до інновацій у програмній архітектурі, таких як техніка квантування Google і покращення Meta в моделях Llama AL, що зменшують потребу в обчисленнях і дозволяють меншим моделям працювати ефективно. Ефективність виходить за межі контролю витрат. Навчання машинному зору для Face ID від Apple і програмний переклад на пристрої від Google в Android демонструють, як оптимізація полегшує роботу складного програмного забезпечення на мобільних пристроях.

AI Engine від Qualcomm дозволяє смартфонам виконувати нейронні мережі локально, покращуючи функції, такі як переклад у реальному часі і розширені можливості камери. Хмарні провайдери, такі як Microsoft Azure і AWS, запровадили спеціалізовані інстанції для оптимізованих робочих навантажень штучного інтелекту, покращуючи розподіл ресурсів. GPU H100 від Nvidia свідчить про перехід галузі до оптимізації, покращуючи роботу великих мовних моделей, динамічно підлаштовуючи точність. З'являються нові техніки оптимізації. Навчання розріджених моделей Google фокусується на ключових нейронних зв'язках для зниження потреби в обчисленнях, а спеціалізовані AI-прискорювачі від Intel орієнтуються на апаратну ефективність. Поза Кремнієвою долиною оптимізовані моделі машинного навчання допомагають у галузі охорони здоров'я та фінансів шляхом впровадження складної обробки на звичайному обладнанні. Зусилля з оптимізації такі ж важливі, як і інновації, дозволяючи компаніям пропонувати більш потужні послуги, одночасно контролюючи витрати. Ця тенденція є фундаментальною зміною у філософії проектування, підкреслюючи сталий та практичний підхід замість сирової обчислювальної потужності.