Чатботи на основі штучного інтелекту від провідних технологічних компаній, таких як OpenAI та Google, у останні місяці отримували покращення у логічному мисленні з метою підвищення надійності відповідей. Однак нещодавні випробування виявили, що деякі новіші моделі працюють гірше за попередні версії, демонструючи явище, яке називають "галюцинаціями" — помилки, коли чатботи створюють неправильну інформацію або надають відповіді, які є фактично правильними, але нерелевантними або не відповідають інструкціям. Це питання залишається актуальним з моменту появи великих мовних моделей (LLMs), таких як ChatGPT від OpenAI і Gemini від Google, і, ймовірно, не буде повністю вирішено. Технічний звіт OpenAI показав, що моделі o3 та o4-mini, випущені у квітні, мали значно вищі показники галюцинацій, ніж більш стара модель o1 з кінця 2024 року: рівень галюцинацій у o3 становив 33%, у o4-mini — 48%, проти 16% у o1 під час підсумовування публічно доступних фактів. Аналогічно, лідерборд Vectara, який відслідковує рівень галюцинацій, показав, що деякі моделі логічного мислення — зокрема DeepSeek-R1 — зазнали значного зростання кількості галюцинацій у порівнянні з попередниками, незважаючи на їх багатоступеневий підхід до розв'язання задач перед відповіддю. OpenAI стверджує, що процеси логічного мислення не є безпосередньою причиною зростання галюцинацій і активно вивчає способи зменшення їх кількості у всіх моделях. Триваюча проблема галюцинацій загрожує низці застосувань: моделі, що часто помиляються, ускладнюють дослідницьку допомогу; чатботи-паралегали, що цитують неіснуючі справи, можуть спричиняти юридичні помилки; боти служби підтримки з застарілою інформацією створюють оперативні проблеми. Спочатку компанії, що розробляють ШІ, очікували, що галюцинації зменшуватимуться з часом, оскільки оновлення ранніх моделей показували покращення. Однак, останні високі показники галюцинацій ставлять під сумнів цю перспективу, незалежно від участі логіки. Лідерборд Vectara показує, що рівень галюцинацій приблизно однаковий у моделях з логікою і без неї у OpenAI та Google, хоча точні цифри менш важливі, ніж відносні рейтинги.

Google відмовився коментувати цю інформацію. Однак, такі рейтинги мають свої обмеження. Вони змішують різні типи галюцинацій; наприклад, 14. 3% у DeepSeek-R1 складається переважно з "добросовісних" випадків — відповідей, логічно обґрунтованих і підтриманих знаннями, але відсутніх у вихідному тексті. Крім того, тестування лише на підставі узагальнення тексту може не відображати реальну частоту галюцинацій у інших задачах, оскільки LLM не розроблені спеціально для підсумовування. Емілі Бендер із Вашингтонського університету підкреслює, що ці моделі прогнозують ймовірні слова, які наймовірніше з'являться далі, а не справді обробляють інформацію для розуміння тексту, тому термін "галюцинація" є як неправильним, так і антропоморфним. Бендер критикує використання терміну "галюцинація", оскільки він натякає, що помилки — це відхилення в надійних системах, і приписує AI людські сприйняття, яких він не має. Арвінд Нарайян from Прінстонського університету додає, що моделі також помиляються через залежність від ненадійних або застарілих даних, і просто додавання даних для тренування або обчислювальної потужності не вирішить ці проблеми. Отже, помилковий штучний інтелект може залишатися реальністю надовго. Нарайян пропонує використовувати такі моделі лише тоді, коли перевірка фактів швидша, ніж проведення власного дослідження, тоді як Бендер радить уникати використання AI-чату для отримання фактичної інформації взагалі.