ChatGPT a další chatboti jsou ohromující svou schopností poskytovat odpovědi, ale mohou také produkovat nereálné nebo nesmyslné reakce. Tyto systémy strojového učení jsou ve své podstatě černé skříňky a nikdo neví přesně, jak dochází k jejich odpovědím. Navzdory této záhadě počítačová vědkyně Yejin Choi v rozhovoru s moderátorem Stevenem Strogatzem diskutuje o schopnostech a omezeních chatbotů a velkých jazykových modelů (LLMs). Uvažují, zda tyto systémy skutečně rozumějí světu a otázkám, na které odpovídají. Choi vysvětluje, že velké jazykové modely mohou do značné míry napodobovat lidskou inteligenci, ale postrádají zdravý rozum a mohou dělat vtipné chyby.

Zabývají se také výzvami spojenými s trénováním těchto modelů a interdisciplinární povahou studia AI. Choi zdůrazňuje význam transparentnosti v datech a technikách a diskutuje o potenciálních nebezpečích AI, jako je dezinformace a nadměrná závislost na obsahu generovaném AI. Na závěr se zamýšlí nad potřebou AI gramotnosti a většího zapojení vlád a komunit do formování politik AI. Celkově rozhovor zkoumá vzrušující pokroky a potenciální rizika spojená s chatboty a velkými jazykovými modely.