Februarja 2023 je Googlov AI klepetalni robot Bard napačno izjavil, da je Vesoljski teleskop James Webb posnel prvo sliko eksoplaneta, kar je razkrilo napake, podobne tistim v OpenAI-jevem ChatGPT, opažene v študiji raziskovalcev univerze Purdue, kjer je bilo več kot polovica od več kot 500 vprašanj o programiranju napačno odgovorjenih. Medtem ko so te napake trenutno opazne, strokovnjaki izražajo zaskrbljenost, da bo s povečevanjem kompleksnosti AI modelov postalo vse težje ločevati resnico od napačnih informacij. Julian Michael z NYU poudarja težavnost nadziranja AI sistemov na področjih, ki presegajo človeške zmožnosti. Ena predlagana rešitev je dovoliti dvema velikima AI modeloma, da se soočita v debati, s preprostejšim modelom ali človekom, ki določi bolj točen izid. Ta ideja se je prvič pojavila pred šestimi leti; vendar nedavne študije organizacij Anthropic in Google DeepMind ponujajo začetne empirične dokaze, da lahko debate med LLM pomagajo razločiti resnico. Vzpostavitev zanesljivih AI sistemov je vidik usklajenosti, ki zagotavlja, da AI deli človeške vrednote. Trenutna usklajenost se opira na povratne informacije ljudi, vendar je potrebno skalabilno nadzorovanje – zagotavljanje točnosti AI onkraj človeških zmožnosti – z napredovanjem AI. Debate, raziskovane od leta 2018, se obravnavajo kot način za obvladovanje tega skalabilnega nadzora. Sprva ga je predlagal Geoffrey Irving pri OpenAI, tehnika vključuje dva AI modela, ki se spopadata glede vprašanja, da bi prepričala zunanjega sodnika o svoji pravilnosti. Čeprav so zgodnji testi leta 2018 nakazovali, da bi debatiranje lahko delovalo, sta ostali zaskrbljenost glede človeške nagnjenosti k subjektivnemu presojanju in razlikam v sposobnosti ocenjevanja.

Raziskovalci, kot je Amanda Askell, trdijo, da je razumevanje človeškega odločanja ključno za učinkovito usklajevanje AI z človeškimi vrednotami. Kljub mešanim začetnim ugotovitvam nove študije nakazujejo potencial. Študija organizacije Anthropic je pokazala, da so debate med LLM pomembno izboljšale točnost ne-ekspertnih sodnikov, in sicer na 76% z 54%. Podobni poskusi Google DeepMind so potrdili, da je debatiranje privedlo do povečane natančnosti v različnih nalogah. Zachary Kenton pravi, da ogled obeh strani sodnikom nudi več informacij, kar omogoča bolj natančne zaključke. Vendar pa ostajajo izzivi, kot je vpliv nepomembnih značilnosti debate in pristranskosti, kot je prilizovanje, kjer AI morda napačno posnema uporabniške preference. Prav tako fiksna narava pravilnih ali napačnih odgovorov v testih morda ne bo ustrezala zapletenim, odtenkov polnim scenarijem iz resničnega sveta. Razumevanje vedenja AI in identificiranje, kje AI sistemi presegajo človeške sodnike v znanju, sta ključna za nadaljnji razvoj in uporabo teh metod, kot navaja Irving. Kljub tem izzivom empirični uspeh debat predstavlja obetaven napredek k izboljšanju zanesljivosti in usklajenosti AI.