Més de 500 milions de persones confien en Gemini i ChatGPT cada mes per a una àmplia gamma de temes, però s'ha de tenir precaució—si la IA suggereix cuinar pasta amb gasolina, no confiïs en ella per consells sobre control de natalitat o àlgebra. Al Fòrum Econòmic Mundial, el CEO d'OpenAI, Sam Altman, va destacar que, tot i que la IA no pot llegir els nostres pensaments, pot articular el seu raonament. Insisteix que els sistemes d'IA haurien d'explicar de manera similar la seva lògica, permetent als usuaris avaluar la validesa dels seus resultats. La justificació és crucial per al coneixement; sense ella, la creença manca de credibilitat. La majoria de les persones només declaren coneixement quan hi ha un suport sòlid a través d'evidències, arguments o autoritats fiables. Els LLMs com ChatGPT estan destinats a ser de confiança; no obstant això, sovint no proporcionen raonaments ja que estan dissenyats per predir patrons de llenguatge més que per participar en un veritable raonament. Els seus resultats poden semblar creïbles però no garanteixen la justificació de la veritat. Tot i que gran part del que produeixen pot ser exacte, poden enganyar els usuaris sobre els orígens del seu “coneixement” presentant casos de Gettier, on les creences poden ser certes però manquen de justificació. Un exemple del filòsof budista Dharmottara il·lustra aquest dilema: cercadors d'aigua poden trobar-la tot i haver jutjat malament la seva ubicació, no demostrant un veritable coneixement. De manera similar, els usuaris dels LLMs poden acceptar resultats com a fets sense entendre la seva justificació, semblant-se als viatgers que creuen erròniament haver trobat aigua quan no ho han fet. L'optimisme d'Altman respecte a les capacitats de justificació de la IA podria conduir a malentesos.

Si els usuaris demanen justificació, els LLMs generaran justificacions plausibles però finalment sense base—un tipus de resultat enganyós. Això podria resultar en desconfiança entre els usuaris informats mentre enganya aquells menys conscients. Actualment, els sistemes d'IA poden produir errors o “al·lucinacions”, el que destaca les seves limitacions. Els usuaris que entenen que els LLMs presenten casos de Gettier són propensos a usar-los adequadament, aplicant el seu propi judici. No obstant això, moltes persones busquen assistència d'IA en àrees on manquen d'expertesa, com àlgebra o consells de salut. Per tant, és essencial determinar quan els resultats dels LLMs poden ser de confiança. La confiança en la IA ha de dependre de la capacitat de verificar la justificació per a cada resultat, una capacitat que els LLMs actualment manquen. Tot i que moltes persones poden saber instintivament que l'oli d'oliva és preferible a la gasolina per cuinar, poden haver-hi altres idees qüestionables que hagin acceptat sense escrutini la justificació subjacient.