Штучні моделі штучного інтелекту вже давно стикаються з проблемою галюцинацій, що є галузевим евфемізмом для неправдивої інформації, яку великі мовні моделі часто подають як факт. Судячи з напрямку розвитку останніх «міркувальних» моделей — створених компаніями, такими як Google і OpenAI, для «обмірковування» проблем перед відповіддю — проблема погіршується, а не покращується. За повідомленнями The New York Times, з Посиленням потужності моделей штучного інтелекту їхня схильність до галюцинацій зростає, а не зменшується. Це незручна реальність, особливо коли все більше користувачів звертаються до чат-ботів AI, таких як ChatGPT від OpenAI, застосовуючи їх для все більшої кількості задач. Коли чат-боти генерують сумнівні або неправильні твердження, користувачі ризикують опинитися в ніяковій ситуації або навіть стикнутися з серйозними наслідками. Ще тривожніше те, що компанії, що займаються AI, прагнуть з’ясувати, чому тепер чат-боти дають більше помилок, ніж раніше — ця загадкова ситуація підкреслює факт, що навіть творці AI не до кінця розуміють, як працює ця технологія. Ця тривожна тенденція ставить під сумнів поширену в галузі віру, що масштабування моделей штучного інтелекту автоматично зробить їх більш надійними і здатними. Ризики дуже високі, оскільки компанії продовжують інвестувати десятки мільярдів доларів у створення AI-інфраструктури для все великих і потужніших «міркувальних» моделей. Деякі експерти вважають, що галюцинації можуть бути внутрішньою характеристикою технології, що робить майже неможливим повністю позбавитися цієї проблеми. «Попри наші найкращі зусилля, вони завжди галюцинуватимуть», — повідомив The New York Times Амр Авадаллах, керівний директор AI-стартапу Vectara.

«Це ніколи не зникне. » Ця проблема настільки поширена, що тепер цілі компанії спеціалізуються на допомозі бізнесам у керуванні та пом’якшенні галюцинацій. «Недбале ставлення до цих помилок фактично знецінює цінність систем штучного інтелекту, » — сказав Pratik Verma, співзасновник компанії Okahu, яка консультує бізнеси щодо більш ефективного використання AI, — «це фактично руйнує цінність. » Це стало особливо очевидним після того, як останні міркувальні моделі OpenAI, o3 і o4-mini, що були випущені наприкінці минулого місяця, почали галюцинувати частіше за попередні версії. За внутрішнім рівнем точності OpenAI, модель o4-mini галюцинувала 48 відсотків часу, демонструючи низький рівень правдивості. Модель o3 мала рівень галюцинацій 33 відсотки, що приблизно вдвічі більше, ніж у попередніх моделей компанії. Так само, як відмічає The New York Times, і конкуренти, такі як Google і DeepSeek, стикаються з тими ж проблемами, що свідчить про те, що це проблема у всій галузі. Експерти попереджають, що з збільшенням розмірів моделей штучного інтелекту поліпшення кожної нової моделі стає все менш значним. Оскільки компанії швидко вичерпують доступні дані для навчання, багато хто вдається до синтетичних — або штучно згенерованих AI — даних для тренування моделей, що може мати потенційно руйнівні наслідки. У підсумку, попри постійні зусилля, галюцинації поширеніше, ніж будь-коли, і наразі технологія не демонструє ознак покращення. Більше про галюцинації AI — дивіться: «You Can’t Lick a Badger Twice»: Google’s AI Is Making Up Explanations for Nonexistent Folksy Sayings.