Видання цієї історії було представлено в розсилці Nightcap від CNN Business. Підпишіться тут, щоб безкоштовно отримувати її у свою скриньку. Два роки тому OpenAI представила ChatGPT, що спричинило свого роду золоту лихоманку в області штучного інтелекту. В мільярди вкладаються в компанії, орієнтовані на штучний інтелект і пов’язані з ним, з огляду на те, що ця технологія трансформує (або потенційно порушить) кожен аспект сучасного життя. Послання від Силіконової долини ясне: революція зі штучним інтелектом вже в процесі, і розумні інвестори повинні приєднатися перш ніж ці інновації стануть «суперінтелектуальними» і почнуть вирішувати усі світові проблеми. Для твердих прихильників це не перебільшення, і такі очікування підняли компанії, як виробник чипів Nvidia, чиї доходи будуть оголошені в середу, в числа найбільш шанованих світових активів. В центрі цього наративу знаходиться ідея, що великі мовні моделі (LLMs), такі як ChatGPT, продовжують швидко розвиватися. Однак критики штучного інтелекту роками застерігали про «закони масштабування» – припускаючи, що ефективність моделі може постійно покращуватися лише за рахунок збільшення даних та обчислювальних ресурсів. Це скоріше освічені припущення, аніж справжні закони. Насправді навіть розробники LLM повністю не розуміють, як вони функціонують. Нещодавно, схоже, що деякі провідні мовні моделі досягають обмежень, згідно з трьома звітами з минулого тижня.

Дивіться тут: Генеральний директор OpenAI Сем Олтман спростував ці заяви, написавши в X минулого тижня, що «стіни немає». Будь це стіна, гора або плато, навіть прихильники штучного інтелекту визнають потенційний поворотний момент, судячи з останніх випусків продуктів. «Ми давно не бачили проривну модель», - сказав Гіл Лурія, керуючий директор D. A. Davidson. «Ми вичерпали всі доступні людські дані, і більше обчислювальної потужності може не покращити результати». Це технічна проблема, але ключова для розуміння меж моделей: щоб зробити штучний інтелект схожим на людину, їх потрібно навчати на людських даних, фактично охоплюючи весь текст або аудіо в Інтернеті. Одного разу засвоєні, «справжніх» нових даних для навчання немає. Щоб уточнити, плато не обов'язково є фатальним ударом для індустрії штучного інтелекту. Однак це викликає виклики, особливо коли Волл-стріт цікаво, коли ці дорогі продукти почнуть приносити відчутний дохід. Компанії, як Nvidia, вартістю майже 3, 5 трильйонів доларів, та інші великі AI-фірми, ймовірно, не зіштовхнуться з проблемами масштабування негайно. «Попит на Nvidia в минулому кварталі і в цьому кварталі перевищував їхню пропозицію», - пояснив Лурія. Однак, якщо досягнуто межі масштабування, «це може означати, що технологічні компанії з мегакапіталізацією надто витратили» і можуть найближчим часом скоротити інвестиції. Це оптимістична/прагматична точка зору щодо штучного інтелекту. Для менш оптимістичної точки зору я звернувся до Гарі Маркуса, професора-емерита Нью-Йоркського університету та відвертого скептика штучного інтелекту.