AI vyhledávače mohou často připomínat toho přehnaně sebevědomého přítele, který autoritativně mluví o mnoha tématech, aniž by jim skutečně rozuměl. Nedávná studie Columbijské žurnalistické revue (CJR) poukazuje na to, že AI modely od společností jako OpenAI a xAI často poskytují nepřesné informace, když jsou dotázány na konkrétní zprávy, přičemž závažné chyby byly zaznamenány u 60 % testovaných dotazů. Například Perplexity vrátilo nesprávné informace 37 % případů, zatímco xAI's Grok vymyslel detaily ve 97 % případů, někdy dokonce vytvářel falešné URL. Navíc některé AI vyhledávače, jako Perplexity, byly známy tím, že obcházely placené zdi webových stránek, přestože vydavatelé používali pokyny pro nenavštěvování, přičemž tvrdily, že jejich praktiky spadají pod fair use. Tato kontroverze ovlivňuje kontrolu vydavatelů nad tím, jak je jejich obsah prezentován, což může poškodit jejich značky, pokud uživatelé obdrží nesprávné informace, které by se mohly zdát pocházet z důvěryhodných zdrojů. Také se objevují obavy o naivnost uživatelů, přičemž COO časopisu Time, Mark Howard, naznačuje, že by měli být spotřebitelé skeptičtí k přesnosti bezplatných AI nástrojů.

Tendence lidí hledat rychlé odpovědi bez jejich ověřování je zřejmá, protože mnozí dávají přednost okamžitým odpovědím od AI modelů, místo aby klikali na webové stránky. I před tím, než generativní AI získala na popularitě, více než polovina vyhledávání na Google byla "zero-click", což zdůrazňuje touhu po přístupných a srozumitelných informacích. Zjištění z CJR nejsou překvapující, vzhledem k inherentním omezením jazykových modelů, které fungují jako pokročilé systémy automatického doplňování, často produkující obsah, který se zdá logický, aniž by mu plně rozuměly. Přes tyto problémy vyjadřuje Howard optimismus pro budoucí zlepšení v technologii chatbotů, přičemž uznává rizika šíření nepřesných informací.