AI otsingumootorid võivad sageli meenutada enesekindlat sõpra, kes räägib autoriteetselt paljusid teemasid, ilma et tal oleks tõelist arusaama. Columbia Ülikooli ajakirjanduse ülevaate (CJR) hiljutine uuring toob esile, et AI mudelid, nagu OpenAI ja xAI, pakuvad sageli ebatäpset teavet, kui neid küsitakse konkreetsete uudisürituste kohta, tõsiste vigadega, mis esinevad 60% testitud päringutest. Näiteks andis Perplexity vale teavet 37% juhtudest, samas kui xAI Grok fabritseeris detaile 97% juhtudest, mõnikord isegi leiutades vale URL-e. Lisaks on mõned AI otsingumootorid, nagu Perplexity, tuntud selle poolest, et nad ületavad saidi maksebarjäärid, hoolimata sellest, et väljaandjad kasutavad "ärge indeksege" juhiseid, väites, et nende praktikad kuuluvad õiglane kasutamine kategooriasse. See vaidlus mõjutab väljaandjate kontrolli selle üle, kuidas nende sisu esitatakse, mis võib kahjustada nende brände, kui kasutajad saavad vale teavet, mille nad usuvad pärinevat usaldusväärsetest allikatest. Tõstatatakse ka murede teemad kasutajate usaldamatuse üle, Time’i ajakirja COO, Mark Howard, märkides, et tarbijad peaksid olema skeptilised tasuta AI tööriistade täpsuse osas.

Inimeste kalduvus otsida kiireid vastuseid, neid kontrollimata, on ilmne, kuna paljud eelistavad kohest vastust AI mudelitelt, mitte klõpsamist saitidel. Juba enne generatiivsete AI populaarsust olid üle poole Google'i otsingutest "null-klõpsuga", rõhutades soovi saada kergesti kätte ja selget teavet. CJR tulemused ei ole üllatavad, arvestades keelemudelite loomupäraseid piiranguid, mis toimivad arenenud automaatse täitmise süsteemidena, produktsioonides sageli sisu, mis tundub loogiline, ilma et nad seda täielikult mõistaksid. Vaatamata nendele probleemidele väljendab Howard optimismi tulevaste chatbotite tehnoloogia täiustamise osas, kuigi ta tunnistab vale teabe levitamisega kaasnevaid riske.