ChatGPT и други чатботове са впечатляващи в способността си да предоставят отговори, но също така могат да генерират нереалистични или безсмислени отговори. Тези системи за машинно обучение са по същество черни кутии и никой не знае точно как достигат до своите отговори. Въпреки тази загадка, компютърният учен Йедин Чой обсъжда възможностите и ограниченията на чатботовете и големите езикови модели (LLMs) в разговор с водещия Стивън Строгатц. Те размишляват дали тези системи наистина разбират света и въпросите, на които отговарят. Чой споделя, че големите езикови модели могат да имитират човешкия интелект до поразителна степен, но им липсва здрав разум и могат да допускат хумористични грешки.

Те също така разглеждат предизвикателствата при обучението на тези модели и интердисциплинарната природа на изследването на изкуствения интелект. Чой подчертава важността на прозрачността в данните и техниките и обсъжда потенциалните опасности от ИИ, като дезинформация и прекомерна зависимост от генерирано съдържание. Накрая те разглеждат нуждата от ИИ грамотност и по-голямото участие на правителствата и общностите в оформянето на ИИ политики. Общото обсъждане задълбочава вълнуващите напредъци и потенциалните рискове, свързани с чатботовете и големите езикови модели.