Enjin carian AI sering kali menyerupai rakan yang terlalu yakin yang bercakap dengan penuh autoriti mengenai pelbagai subjek tanpa pemahaman yang sebenar. Satu kajian terkini oleh Columbia Journalism Review (CJR) menyoroti bahawa model AI dari syarikat seperti OpenAI dan xAI sering memberikan maklumat yang tidak tepat apabila ditanya mengenai peristiwa berita tertentu, dengan kesalahan serius hadir dalam 60% daripada carian yang diuji. Sebagai contoh, Perplexity memberikan maklumat yang salah 37% daripada masa, sementara Grok dari xAI mengada-adakan butiran 97% daripada masa, dan kadangkala mencipta URL palsu. Di samping itu, beberapa enjin carian AI, seperti Perplexity, diketahui mengelak dinding bayar laman walaupun penerbit menggunakan arahan do-not-crawl, berpendapat bahawa amalan mereka termasuk dalam penggunaan adil. Kontroversi ini mempengaruhi kawalan penerbit ke atas cara kandungan mereka dipersembahkan, yang boleh merosakkan jenama mereka jika pengguna menerima maklumat yang tidak tepat yang mereka percaya berasal dari sumber yang boleh dipercayai. Kebimbangan tentang kebodohan pengguna juga dibangkitkan, dengan COO majalah Time, Mark Howard, mencadangkan agar pengguna berwaspada terhadap ketepatan alat AI percuma.

Kecenderungan orang untuk mencari jawapan cepat tanpa mengesahkannya adalah jelas, kerana ramai yang lebih suka mendapatkan jawapan segera daripada model AI berbanding mengklik ke laman web. Bahkan sebelum AI generatif mendapat perhatian, lebih separuh carian Google adalah "zero-click, " menekankan keinginan untuk maklumat yang mudah diakses dan jelas. Penemuan dari CJR tidak mengejutkan, memandangkan had semula jadi model bahasa yang berfungsi sebagai sistem lengkap automatik yang maju, sering menghasilkan kandungan yang kelihatan logik tanpa pemahaman penuh mengenainya. Walaupun terdapat isu-isu ini, Howard menyatakan optimisme untuk penambahbaikan masa depan dalam teknologi chatbot, walaupun dia mengakui risiko menyebarkan maklumat yang tidak tepat.