Штучні інтелекти пошукових систем часто нагадують того самовпевненого друга, який авторитетно говорить на численні теми, не маючи реального розуміння. Нещодавнє дослідження Колумбійського журналістського огляду (CJR) підкреслює, що моделі ШІ від компаній, таких як OpenAI та xAI, часто надають неточну інформацію, коли їх запитують про конкретні новинні події, причому серйозні помилки присутні в 60% випадків. Наприклад, Perplexity повертав неправильну інформацію у 37% випадків, тоді як Grok від xAI вигадував деталі у 97% випадків, іноді навіть вигадуючи фальшиві URL-адреси. Більше того, деякі пошукові системи ШІ, такі як Perplexity, відомі тим, що обходять платні стіни сайтів, незважаючи на те, що видавці використовують інструкції "не обходити", стверджуючи, що їхні практики підпадають під справедливе використання. Ця суперечка впливає на контроль видавців над тим, як їхній контент представляється, що може зашкодити їхнім брендам, якщо користувачі отримують неправильну інформацію, яку вважають надійною. Також виникають занепокоєння з приводу наївності користувачів: операційний директор журналу Time, Марк Ховард, зазначає, що споживачі повинні бути скептичними щодо точності безкоштовних інструментів ШІ.

Схильність людей шукати швидкі відповіді без їх перевірки очевидна, адже багато хто віддає перевагу миттєвим відповідям від моделей ШІ, а не переходу на вебсайти. Навіть до того, як генеративний ШІ отримав популярність, понад половини пошуків у Google були "нульовими кліками", що підкреслює бажання отримувати доступну, зрозумілу інформацію. Результати дослідження CJR не є дивними, беручи до уваги вроджені обмеження мовних моделей, які функціонують як просунуті системи автозаповнення, часто продукуючи контент, що здається логічним, без повного розуміння. Незважаючи на ці проблеми, Ховард висловлює оптимізм щодо майбутніх вдосконалень технологій чат-ботів, хоча й визнає ризики розповсюдження неточної інформації.