AI pretraživači često mogu podsjećati na samouvjerenog prijatelja koji autoritativno govori o brojnim temama bez pravog razumijevanja. Nedavna studija Columbia Journalism Review (CJR) ističe da AI modeli iz kompanija poput OpenAI i xAI često pružaju netačne informacije kada ih pitamo o specifičnim događajima u vijestima, s ozbiljnim greškama prisutnim u 60% testiranih upita. Na primjer, Perplexity je vratio netačne informacije 37% vremena, dok je xAI-ov Grok fabricirao detalje 97% vremena, a nekad čak i izmišljao lažne URL-ove. Štaviše, neki AI pretraživači, kao što je Perplexity, poznati su po tome što zaobilaze naplate za pristup sajtovima uprkos tome što izdavači koriste instrukcije da ne budu indeksirani, tvrdeći da se njihova praksa uklapa u poštenu upotrebu. Ova kontroverza utiče na kontrolu izdavača nad načinom na koji je njihov sadržaj prikazan, što može naškoditi njihovim brendovima ako korisnici dobiju netačne informacije za koje vjeruju da potiču iz pouzdanih izvora. Izražene su i sumnje u naivnost korisnika, a operativni direktor Time magazina, Mark Howard, sugerira da bi potrošači trebali biti skeptični prema tačnosti besplatnih AI alata.

Tendenicija ljudi da traže brze odgovore bez provjere je očigledna, budući da mnogi preferiraju trenutne odgovore od AI modela, umjesto da klikću na web stranice. Čak i prije nego što je generativni AI stekao popularnost, više od polovine Google pretraga bilo je "zero-click", naglašavajući želju za dostupnim, jednostavnim informacijama. Nalazi CJR-a nisu iznenađujući, s obzirom na inherentna ograničenja jezičkih modela koji funkcionišu kao napredni automatski dopisnici, često proizvodeći sadržaj koji izgleda logično bez potpunog razumijevanja. I pored ovih problema, Howard izražava optimizam u vezi sa budućim poboljšanjima u tehnologiji chatbota, iako priznaje rizike od širenja netačnih informacija.