ChatGPT ja muut chatbotit ovat vaikuttavia vastaustensa antamiskyvyssä, mutta ne voivat myös tuottaa epärealistisia tai järjettömiä vastauksia. Nämä koneoppimisjärjestelmät ovat pohjimmiltaan mustia laatikoita, eikä kukaan tiedä tarkalleen, kuinka ne päätyvät vastauksiinsa. Tästä mysteeristä huolimatta tietojenkäsittelytieteilijä Yejin Choi keskustelee chatbotien ja suurten kielimallien (LLM) kyvyistä ja rajoituksista juontaja Steven Strogatzin kanssa. He pohtivat, ymmärtävätkö nämä järjestelmät todella maailmaa ja niille esitettyjä kysymyksiä. Choi kertoo, että suuret kielimallit voivat matkia ihmisen älykkyyttä huomattavassa määrin, mutta niiltä puuttuu maalaisjärki ja ne voivat tehdä humoristisia virheitä.

He käsittelevät myös näiden mallien kouluttamiseen liittyviä haasteita ja tekoälyä koskevan tutkimuksen monitieteistä luonnetta. Choi korostaa datan ja tekniikoiden läpinäkyvyyden tärkeyttä ja keskustelee tekoälyyn liittyvistä mahdollisista vaaroista, kuten disinformaatiosta ja liiallisesta riippuvuudesta tekoälyn luomaan sisältöön. He päättävät keskustelunsa pohtien tekoälylukutaidon tarvetta ja hallitusten sekä yhteisöjen suurempaa osallistumista tekoälypolitiikan muotoiluun. Kaiken kaikkiaan keskustelu sukelluttaa kuulijan chatbotien ja suurten kielimallien jännittäviin edistysaskeleisiin ja mahdollisiin riskeihin.