Í febrúar 2023 gaf gervigreindarspjallmenni Google, Bard, ranglega upp að James Webb geimsjónaukinn hefði tekið fyrstu myndina af fjarplánetu, en slíkar villur í líkingu við þær sem fundust í ChatGPT frá OpenAI komu í ljós í rannsókn frá Purdue háskóla. Þar voru meira en helmingur af yfir 500 forritunarspurningum ranglega svaraðar. Þó þessar villur séu nú áberandi, hafa sérfræðingar áhyggjur af því að þegar AI módel verða flóknari, gæti verið sífellt erfiðara að greina milli sannleika og rangfærslna. Julian Michael frá NYU bendir á erfiðleika við eftirlit með AI kerfum á sviðum utan getu mannsins. Ein tilboðn lausn er að leyfa tveimur stórum AI módelum að rökræða, þar sem einfaldara módel eða manneskja ákveður réttari niðurstöðu. Þessi hugmynd kom fyrst fram fyrir sex árum; hins vegar bjóða nýlegar rannsóknir frá Anthropic og Google DeepMind upp á fyrstu empírísku sönnunargögn um að LLM rökræður geti hjálpað við að greina sannleika. Að koma á traustum AI kerfum er þáttur í samræmingu, sem tryggir að AI deili gildum mannsins. Núverandi samræming byggir á endurgjöf frá mönnum, en yfirgripsmikið eftirlit – að tryggja nákvæmni AI umfram getu mannsins – er nauðsynlegt þegar AI þróast. Rökræða, sem hefur verið rannsökuð frá 2018, er talin leið til að takast á við þetta yfirgripsmikla eftirlit. Upphaflega stungið upp á af Geoffrey Irving hjá OpenAI, felur aðferðin í sér að tvö AI módel deili um spurningu til að sannfæra ytri dómara um réttleika sinn. Þó frumprófanir í 2018 gæfu til kynna að rökræða gæti virkað, voru áhyggjur um tilhneigingu manna til huglægs mats og mismunandi færni í mati enn til staðar.

Rannsakendur eins og Amanda Askell halda því fram að skilningur á ákvörðunartöku manna sé nauðsynlegur til að samræma AI mannlegum gildum á áhrifaríkan hátt. Þrátt fyrir misjafnar upphafsniðurstöður benda nýjar rannsóknir til möguleika. Rannsókn Anthropic sýndi að LLM rökræður bættu nákvæmni dómaranna, hækka hana í 76% úr 54%. Samskonar tilraunir Google DeepMind staðfestu að rökræður leiddu til aukinnar nákvæmni í fjölbreyttum verkefnum. Zachary Kenton segir að það að sjá báðar hliðar veiti dómurunum meiri upplýsingar, sem stuðli að nákvæmari niðurstöðum. Þrátt fyrir það eru áskoranir enn til staðar, eins og áhrif smávægilegra eiginleika rökræðanna og hlutdrægni eins og smjaður þar sem AI getur echoð smakasér notenda rangt. Einnig, að fastar réttar eða rangar svarar í prófum þarf ekki að eiga sér stað í flóknum, blæbrigðaríkum raunheimsverkefnum. Að skilja hegðun AI og finna út hvar AI kerfi fara fram úr þekkingu mannlegra dómara er mikilvægt fyrir áframhaldandi þróun og beitingu þessara aðferða, eins og Irving bendir á. Þrátt fyrir þessar hindranir, býður empírískur árangur rökræðna upp á efnilega framþróun í átt að því að bæta áreiðanleika og samræmingu AI.