Az AI keresőmotorok gyakran emlékeztetnek arra a túlbuzgó barátra, aki számos témában magabiztosan beszél anélkül, hogy valódi megértése lenne. Egy nemrégiben készült tanulmány, amelyet a Columbia Journalism Review (CJR) készített, hangsúlyozza, hogy a vállalatok, mint az OpenAI és az xAI AI modelljei gyakran pontatlan információkat adnak, amikor konkrét hírekről kérdezik őket, és a tesztelt kérdések 60%-ában súlyos hibák vannak. Például a Perplexity 37%-ban szolgáltatott téves információt, míg az xAI Grok 97%-ban fabrikált részleteket, olykor akár hamis URL-eket is kitalált. Továbbá, néhány AI keresőmotor, mint a Perplexity, arról is ismert, hogy megkerüli a weboldalak fizetős tartalmát, annak ellenére, hogy a kiadók do-not-crawl utasításokat használnak, arra hivatkozva, hogy tevékenységeik a tisztességes használat körébe tartoznak. Ez a vita befolyásolja a kiadók ellenőrzését afelett, hogy tartalmukat hogyan mutatják be, ami károsíthatja márkáikat, ha a felhasználók téves információt kapnak, amit megbízható forrásból származónak hisznek. Aggodalmak merülnek fel a felhasználók naivitása miatt is, Mark Howard, a Time magazin COO-ja azt javasolja, hogy a fogyasztóknak szkeptikusnak kell lenniük a szabad AI eszközök pontosságával kapcsolatban.

Az emberek hajlama arra, hogy gyors válaszokat keressenek anélkül, hogy ellenőriznék azokat, nyilvánvaló, mivel sokan az AI modellektől várnak azonnali válaszokat, ahelyett, hogy weboldalakra kattintanának. Már a generatív AI előretörése előtt is a Google keresések több mint fele "nulla kattintásos" volt, hangsúlyozva az elérhető, egyértelmű információ iránti vágyat. A CJR megállapításai nem meglepőek, figyelembe véve a nyelvi modellek inherens korlátait, amelyek fejlett automatikus kiegészítő rendszereként működnek, gyakran olyan tartalmat produkálva, amely logikusnak tűnik, anélkül, hogy teljesen megértenék. E problémák ellenére Howard optimizmusának ad hangot a chatbot technológia jövőbeni fejlesztéseivel kapcsolatban, bár elismeri a pontatlan információk terjesztésének kockázatait.