ChatGPT i altres xatbots són impressionants en la seva capacitat de proporcionar respostes, però també poden produir respostes poc realistes o sense sentit. Aquests sistemes d'aprenentatge automàtic són fonamentalment caixes negres, i ningú sap exactament com arriben a les seves respostes. Tot i aquest misteri, la científica de la computació Yejin Choi parla sobre les capacitats i limitacions dels xatbots i els grans models de llenguatge (LLMs) en una conversa amb l'amfitrió Steven Strogatz. Es pregunten si aquests sistemes realment entenen el món i les preguntes que responen. Choi comparteix que els grans models de llenguatge poden imitar la intel·ligència humana fins a un cert punt, però els falta sentit comú i poden cometre errors humorístics.

També exploren els desafiaments d'entrenar aquests models i la naturalesa interdisciplinària d'estudiar la IA. Choi destaca la importància de la transparència en les dades i les tècniques, i parla dels perills potencials de la IA, com la desinformació i la dependència excessiva del contingut generat per IA. Conclouen considerant la necessitat d'alfabetització en IA i una major participació dels governs i les comunitats en la configuració de les polítiques d'IA. En general, la conversa aprofundeix en els emocionants avenços i els riscos potencials associats als xatbots i als grans models de llenguatge.