U februaru 2023. godine, Bard, AI chatbot kompanije Google, pogrešno je tvrdio da je Svemirski teleskop Džejms Veb snimio prvu fotografiju egzoplaneta, čime su otkrivene greške slične onima koje je našao OpenAI-ev ChatGPT u studiji istraživača sa Univerziteta Purdue, gde je više od polovine od preko 500 programskih upita netačno odgovarano. Iako su ove greške trenutno uočljive, stručnjaci izražavaju zabrinutost da će, kako AI modeli postaju sve složeniji, razlikovanje istine od dezinformacija postati sve izazovnije. Džulijan Majkl sa NYU naglašava teškoće u nadzoru AI sistema u oblastima izvan ljudskih kapaciteta. Predloženo rešenje je da dva velika AI modela vode debatu, a da jednostavniji model ili čovek odredi tačniji ishod. Ova ideja pojavila se pre šest godina; međutim, nedavne studije Anthropic-a i Google DeepMind-a nude početne empirijske dokaze da debate LLM-a mogu pomoći u razlikovanju istine. Usmeravanje prema pouzdanim AI sistemima deo je usklađivanja koje obezbeđuje da AI deli ljudske vrednosti. Sadašnje usklađivanje zavisi od ljudske povratne informacije, ali je skalabilan nadzor – osiguravanje tačnosti AI-a izvan ljudskih sposobnosti – neophodan kako AI napreduje. Debata, istraživana od 2018. godine, smatra se načinom za upravljanje ovim skalabilnim nadzorom. Prvobitno predložena od strane Džefrija Irvinga u OpenAI-u, tehnika uključuje da dva AI modela raspravljaju o pitanju kako bi ubedili spoljnog sudiju u svoju ispravnost. Iako su rani testovi iz 2018.

ukazivali da debata može funkcionisati, svest o ljudskoj sklonnosti subjektivnim ocenama i razlikama u sposobnosti za procenjivanje ostale su zabrinutosti. Istraživači poput Amande Askell tvrde da je razumevanje ljudskog odlučivanja ključno za efikasno usklađivanje AI sa ljudskim vrednostima. Uprkos pomešanim početnim rezultatima, nove studije pokazuju potencijal. Studija Anthropic-a pokazala je da su debate LLM-a značajno poboljšale tačnost ne-ekspertnih sudija, podižući je na 76% sa 54%. Slični eksperimenti Google DeepMind-a potvrdili su da su debate dovele do povećane tačnosti kroz raznovrsne zadatke. Zekari Kenton navodi da pružanje oba gledišta daje više informacija sudijama, što doprinosi preciznijim zaključcima. Međutim, izazovi ostaju, poput uticaja beznačajnih karakteristika debate i pristrasnosti poput laskanja gde AI može netačno odražavati korisničke preferencije. Takođe, fiksna priroda tačnih ili netačnih odgovora u testovima možda se ne prenosi na složene, nijansirane scenarije iz stvarnog sveta. Razumevanje ponašanja AI-a i identifikacija tamo gde AI sistemi nadmašuju ljudske sudije u znanju od suštinskog su značaja za dalji razvoj i primenu ovih metoda, kako je primetio Irving. Uprkos ovim preprekama, empirijski uspeh debata predstavlja obećavajući napredak ka unapređenju pouzdanosti i usklađenosti AI.