Yfir 500 milljónir manna treysta á Gemini og ChatGPT á hverjum mánuði fyrir fjölbreytt úrval af efnum, en varúð er ráðlögð—ef gervigreindin mælir með að elda pasta í bensíni, þá ættirðu ekki að treysta henni fyrir ráðgjöf um getnaðarvarnir eða algebra. Á Heimsviðskiptaráðstefnunni lagði forstjóri OpenAI, Sam Altman, áherslu á að þó gervigreind geti ekki lesið hugsanir okkar, þá geti hún útskýrt hugsunarsamband sitt. Hann krefst þess að gervigreindarkerfi útskýri líka röksemdir sínar, sem gerir notendum kleift að meta gildi framlags þeirra. Rökstuðningur er grunnurinn að þekkingu; án hans er trúverðugleiki takmarkaður. Flestir lýsa aðeins yfir þekkingu þegar traust stoð er til staðar með sönnun, rökum eða traustum heimildum. LLM eins og ChatGPT eru gerð til að vera traustverð; þó mistakast þeim oft að veita röksemdafærslu þar sem þau eru til þess að spá fyrir tungumálamynstum en ekki að fást við raunverulega röksemdafærslu. Framlag þeirra getur virkað trúverðugt en veitir ekki tryggingu fyrir sannleika. Þó að mikið af því sem þau framleiða geti verið rétt, geta þau villa notendur varðandi uppruna „þekkingar“ sinnar með því að fram koma Gettier mál, þar sem trú getur verið sönn en skorti rökstuðning. Dæmi frá búddafilosófunum Dharmottara lýsir þessum vanda: leitendur að vatni geta rekist á það þrátt fyrir að hafa rangt dæmt staðsetningu, ekki sýnt fram á alvöru þekkingu. Á sama hátt geta notendur LLM samþykkt framlag sem staðreynd án þess að skilja rökstuðning þess, líkt og ferðalangar sem ranglega trúa að þeir hafi fundið vatn þegar þeir hafa það ekki. Bjartsýni Altmans varðandi rökstuðningsgetu gervigreindar gæti leitt til misskilnings.

Ef notendur óska eftir rökstuðningi, munu LLM búa til trúverðug hljómandi en að lokum grunnlaus rökstuðning—a tegund af villandi framlagi. Þetta gæti leitt til vantrausts meðal upplýstra notenda á meðan það blekkir þá sem eru minna meðvitaðir. Sem stendur geta gervigreindarkerfi framleitt villur eða „ofsjónir, “ sem varpa ljósi á takmarkanir þeirra. Notendur sem skilja að LLM framleiði Gettier mál munu líklega nota þau á viðeigandi hátt, með því að nota eigið mat. Hins vegar sækjast margir einstaklingar eftir aðstoð gervigreindar á sviðum þar sem þeir skortir sérfræðiþekkingu, eins og algebra eða heilbrigðisráðgjöf. Því er mikilvægt að ákvarða hvenær framlag LLM getur verið traust. Traust í gervigreind verður að byggjast á getu til að staðfesta rökstuðning fyrir hverja framlag, eiginleika sem LLM skortir nú. Þó að margir einstaklingar kunni eðlilega að vita að ólífuolía er betri en bensín til eldunar, gætu aðrar vafasamari hugmyndir verið samþykktar án þess að kanna undirliggjandi rökstuðning.