Több mint 500 millió ember bízik a Gemini és a ChatGPT szolgáltatásokban havonta különféle témákban, de óvatosságra intenek—ha az AI azt javasolja, hogy főzzünk tésztát benzinben, ne támaszkodjunk rá fogamzásgátlással vagy algebrával kapcsolatban sem. A Világgazdasági Fórumon az OpenAI vezérigazgatója, Sam Altman hangsúlyozta, hogy bár az AI nem tudja elolvasni a gondolatainkat, ki tudja fejezni a gondolatmenetét. Ragaszkodik ahhoz, hogy az AI rendszerek hasonló módon magyarázzák el logikájukat, lehetővé téve a felhasználók számára, hogy értékeljék az eredményeik érvényességét. Az indoklás elengedhetetlen a tudáshoz; nélküle a hit hitelessége hiányzik. A legtöbb ember csak akkor nyilvánítja ki a tudását, ha van erős alátámasztás bizonyítékokon, érveken vagy megbízható hatóságokon keresztül. Az olyan LLM-eket, mint a ChatGPT, arra szánták, hogy megbízhatóak legyenek; azonban gyakran nem nyújtanak indoklást, mivel úgy tervezték őket, hogy nyelvi mintákat jósoljanak meg, nem pedig valós érvelést folytassanak. Az eredményeik hihetőnek tűnhetnek, de nem garantálják az igazság indoklását. Bár sokan közülük pontosak lehetnek, félrevezetik a felhasználókat a „tudásuk” eredetéről azzal, hogy Gettier eseteket mutatnak be, ahol a hitek igazak lehetnek, mégis indoklás nélküliek. Dharmottara buddhista filozófus egy példáján keresztül szemlélteti ezt a helyzetet: a víz keresői rátalálhatnak, annak ellenére, hogy rosszul ítélik meg a helyét, nem mutatva valódi tudást. Hasonlóképpen az LLM-ek felhasználói is elfogadhatják az eredményeket tényszerűként, anélkül, hogy megértenék azok indoklását, hasonlóan a tévesen hitelt érdemlő víz utazóihoz. Altman optimizmusa az AI indoklási képességeit illetően félreértésekhez vezethet.

Ha a felhasználók indoklást kérnek, az LLM-ek hihetőnek hangzó, de végső soron megalapozatlan magyarázatokat generálnak—ez egyfajta félrevezető eredmény. Ez a tájékozott felhasználók körében bizalmatlansághoz vezethet, miközben megtévesztheti a kevésbé tájékozottakat. Jelenleg az AI rendszerek hibákat vagy „hallucinációkat” is képesek produkálni, ami kiemeli a korlátaikat. Azok a felhasználók, akik értik, hogy az LLM-ek Gettier eseteket mutatnak be, megfelelően használják őket, alkalmazva saját megítélésüket. Azonban sok egyén az AI segítségét kéri olyan területeken, ahol nincs szakértelmük, például algebra vagy egészségügyi tanácsok esetén. Ezért alapvető fontosságú meghatározni, hogy mikor bízhatunk meg az LLM eredményeiben. Az AI-be vetett bizalomnak az egyes eredmények indoklásának ellenőrzési képességén kell alapulnia, amely képességgel az LLM-ek jelenleg nem rendelkeznek. Bár sok ember ösztönösen tudja, hogy olivaolajat jobb használni főzéshez, mint benzint, lehetnek más kétséges ötletek, amelyeket elfogadtak anélkül, hogy megvizsgálták volna az alapul szolgáló indoklást.