Над 500 милиона души доверяват своите въпроси на Gemini и ChatGPT всеки месец по широк спектър от теми, но съветваме да бъдете внимателни – ако AI предложи да сварите паста в бензин, не се доверявайте на него за съвети относно контрацепция или алгебра. На Световния икономически форум генералният директор на OpenAI, Сам Алтман, подчерта, че макар AI да не може да чете нашите мисли, той може да обяснява своите разсъждения. Той настоява, че AI системите трябва аналогично да обясняват своята логика, което позволява на потребителите да оценят валидността на техните резултати. Обосновката е от съществено значение за знанието; без нея вярата няма достоверност. Повечето хора обявяват знание само когато има солидна подкрепа чрез доказателства, аргументи или надеждни авторитети. LLM като ChatGPT са предназначени да бъдат надеждни; обаче, те често не предоставят обосновка, тъй като са проектирани да предсказват езикови модели, а не да участват в истинско разсъждение. Техните резултати могат да изглеждат достоверни, но не гарантират обосновка за истината. Въпреки че много от техните резултати могат да бъдат точни, те могат да заблудят потребителите относно произхода на своето „знание“ чрез представяне на случаи на Гетие, където вярванията могат да бъдат верни, но да липсва обосновка. Един пример от будисткия философ Дармотара илюстрира това затруднение: търсещите вода могат да я намерят, въпреки че погрешно преценяват местоположението ѝ, което не демонстрира истинско знание. По същия начин потребителите на LLM могат да приемат резултатите за факт без разбиране на обосновката им, подобно на пътниците, които погрешно смятат, че са намерили вода, когато не са. Оптимизмът на Алтман относно възможностите на AI за обосновка може да доведе до неразбиране.

Ако потребителите изискват обосновка, LLM ще генерират правдоподобно звучащи, но в крайна сметка безпочвени обосновки – вид подвеждащ резултат. Това може да доведе до недоверие сред информираните потребители, докато тези по-малко информирани могат да бъдат измамени. В момента AI системите могат да произвеждат грешки или „халюцинации“, което подчертава техните ограничения. Потребителите, които разбират, че LLM представят случаи на Гетие, вероятно ще ги използват подходящо, прилагайки своето собствено преценка. Въпреки това, много хора търсят помощ от AI в области, където им липсва експертиза, като алгебра или здравни съвети. Следователно, важно е да се определи кога резултатите на LLM могат да бъдат надеждни. Доверието в AI трябва да основава на способността да се провери обосновката на всеки резултат, което е способност, която LLM в момента липсва. Въпреки че много хора инстинктивно знаят, че зехтинът е за предпочитане пред бензин за готвене, може да има други съмнителни идеи, които са приели без да проверят основната обосновка.