ChatGPT en andere chatbots zijn indrukwekkend in hun vermogen om antwoorden te geven, maar ze kunnen ook onrealistische of onzinnige reacties produceren. Deze machine learning systemen zijn fundamenteel zwarte dozen, en niemand weet precies hoe ze tot hun antwoorden komen. Ondanks dit mysterie bespreekt computerwetenschapper Yejin Choi de mogelijkheden en beperkingen van chatbots en grote taalmodellen (LLM's) in een gesprek met gastheer Steven Strogatz. Ze overdenken of deze systemen de wereld en de vragen die ze beantwoorden echt begrijpen. Choi deelt dat grote taalmodellen menselijke intelligentie opvallend kunnen nabootsen, maar dat ze gezond verstand missen en grappige fouten kunnen maken.

Ze verkennen ook de uitdagingen van het trainen van deze modellen en de interdisciplinaire aard van het bestuderen van AI. Choi benadrukt het belang van transparantie in data en technieken, en bespreekt de mogelijke gevaren van AI, zoals desinformatie en de overafhankelijkheid van AI-gegenereerde inhoud. Ze sluiten af met de overweging van de noodzaak van AI-geletterdheid en een grotere betrokkenheid van overheden en gemeenschappen bij het vormgeven van AI-beleid. Al met al verdiept het gesprek zich in de opwindende vooruitgangen en potentiële risico's die gepaard gaan met chatbots en grote taalmodellen.