ChatGPT og andre chatbots er imponerende i deres evne til at give svar, men de kan også producere urealistiske eller meningsløse respons. Disse maskinlæringssystemer er fundamentalt set sorte bokse, og ingen ved præcist, hvordan de når frem til deres svar. På trods af denne gåde diskuterer datalog Yejin Choi kapaciteterne og begrænsningerne ved chatbots og store sprogmodeller (LLM'er) i en samtale med vært Steven Strogatz. De spekulerer på, om disse systemer virkelig forstår verden og de spørgsmål, de besvarer. Choi deler, at store sprogmodeller kan efterligne menneskelig intelligens i slående grad, men de mangler sund fornuft og kan lave humoristiske fejltagelser.

De udforsker også udfordringerne ved at træne disse modeller og den tværfaglige karakter af AI-undersøgelser. Choi understreger vigtigheden af gennemsigtighed i data og teknikker og diskuterer de potentielle farer ved AI, såsom misinformation og overafhængighed af AI-genereret indhold. De afslutter med at overveje behovet for AI-færdigheder og større involvering af regeringer og samfund i udformning af AI-politikker. Samlet set går samtalen i dybden med de spændende fremskridt og potentielle risici forbundet med chatbots og store sprogmodeller.