Üle 500 miljoni inimese usaldab Gemini ja ChatGPT-d iga kuu paljude teemade jaoks, kuid ettevaatust on soovitatav—kui AI soovitab pasta keetmist bensiinis, ärge lootke sellele rasestumisvastase või algebra nõu**. Maailma Majandusfoorumil rõhutas OpenAI tegevjuht Sam Altman, et kuigi AI ei suuda meie mõtteid lugeda, suudab see siiski oma põhjendusi selgitada. Ta nõuab, et AI-süsteemid peaksid samuti oma loogikat selgitama, võimaldades kasutajatel hinnata nende väljundite kehtivust. Põhjendus on teadmiste jaoks ülioluline; ilma selleta pole uskumustel usaldusväärsust. Enamik inimesi kuulutab teadmisi ainult siis, kui sellel on kindel tagatis läbi tõendite, argumentide või usaldusväärsete autoriteetide. LLM-id nagu ChatGPT on mõeldud usaldusväärseteks; kuid sageli ei paku nad põhjendusi, sest nad on mõeldud keelemustrite ennustamiseks ega tegele tõelise arutlusega. Nende väljundid võivad tunduda usutavatena, kuid ei garanteeri tõe põhjendamist. Kuigi suur osa nende toodangust võib olla täpne, võivad nad kasutajaid eksitada oma “teadmiste” päritolu osas, esitades Gettier'i juhtumeid, kus uskumused võivad olla tõesed, kuid neil puudub põhjendus. Budistliku filosoofi Dharmottara näide illustreerib seda probleemi: veehimustajad võivad sattuda veele hoolimata asukoha valesti hindamisest, ilma tõelisi teadmisi avaldamata.

Samamoodi võivad LLM-ide kasutajad vastu võtta väljundeid kui faktilisi, mõistmata nende põhjendamist, sarnaselt ränduritele, kes ekslikult usuvad, et on leidnud vett, kui tegelikult pole. Altmani optimistlikkus AI põhjendusvõimaluste suhtes võib põhjustada arusaamatusi. Kui kasutajad küsivad põhjendusi, loovad LLM-id usutavalt kõlavaid, kuid sisuliselt alusteta põhjendusi—üks eksitava väljundi tüüpidest. See võib põhjustada teadlikumate kasutajate usaldamatust ja vähem teadlikke petta. Praegu võivad AI-süsteemid toota vigu või 'hallutsinatsioone, ' mis toob esile nende piirangud. Kasutajad, kes mõistavad, et LLM-id esitlevad Gettier'i juhtumeid, kasutavad neid tõenäoliselt õigesti, rakendades oma otsustusvõimet. Kuid paljud inimesed otsivad AI abi valdkondades, kus neil puuduvad teadmised, nagu algebra või tervisenõuanded. Seetõttu on oluline kindlaks teha, millal LLM väljundeid võib usaldada. Usaldus AI vastu peab tuginema võimalusele kontrollida iga väljundi põhjendust, võimekus, mida LLM-id praegu ei oma. Kuigi paljud inimesed võivad instinktiivselt teada, et toiduvalmistamiseks on eelistatav oliiviõli bensiinile, võivad nad omaks võtta teisi kaheldavaid ideid, ilma et uuriksid aluspõhjendust.