AI vyhľadávače môžu často pripomínať tohto príliš sebavedomého priateľa, ktorý autoritatívne hovorí o mnohých témach bez skutočného pochopenia. Nedávna štúdia Columbia Journalism Review (CJR) poukazuje na to, že AI modely od spoločností ako OpenAI a xAI často poskytujú nepresné informácie, keď sú otázky položené na konkrétne spravodajské udalosti, pričom závažné chyby sa nachádzajú v 60% testovaných dopytov. Napríklad, Perplexity vrátilo nesprávne informácie v 37% prípadov, zatiaľ čo Grok od xAI vykonštruoval detaily v 97% prípadov, niekedy dokonca vymýšľal falošné URL adresy. Navyše, niektoré AI vyhľadávače, ako napríklad Perplexity, sú známe tým, že obchádzajú platobné brány stránok, aj keď vydavatelia používajú pokyny na zákaz prehľadávania, argumentujúc, že ich praktiky spadajú pod fair use. Táto kontroverzia ovplyvňuje kontrolu vydavateľov nad tým, ako je ich obsah prezentovaný, čo môže poškodiť ich značky, ak používatelia dostávajú nepresné informácie, ktoré považujú za pochádzajúce z dôveryhodných zdrojov. Obavy o dôverčivosť používateľov sú tiež vyjadrené, pričom COO časopisu Time, Mark Howard, naznačuje, že spotrebitelia by mali byť skeptickí voči presnosti bezplatných nástrojov AI.

Tendencia ľudí hľadať rýchle odpovede bez ich overovania je evidentná, pretože mnohí uprednostňujú okamžité odpovede od AI modelov pred preklikaním sa na webové stránky. Ešte predtým, ako generatívna AI získala na popularite, viac ako polovica vyhľadávaní na Googli bola "bezklikančná", čo zdôrazňuje túžbu po prístupných a jednoduchých informáciách. Zistenia z CJR nie sú prekvapujúce, vzhľadom na inherentné obmedzenia jazykových modelov, ktoré fungujú ako pokročilé automatické doplňovacie systémy, často produkujúce obsah, ktorý sa zdá byť logický, ale bez úplného pochopenia. Napriek týmto problémom, Howard vyjadruje optimizmus ohľadom budúcich zlepšení v technológii chatbotov, aj keď uznáva riziko šírenia nepresných informácií.