2023 оны 2-р сард Google-ийн AI чатбот Bard Жеймс Вэбб сансрын дурангаар экзопланетын анхны зургийг авсан гэж буруу мэдээлэл өгсөн нь Purdue их сургуулийн судлаачдын OpenAI-ийн ChatGPT дээр хийсэн судалгааныхтай төстэй алдааг илрүүлсэн бөгөөд 500 гаруй программын асуултын талаас илүү хувьд нь буруу хариулт өгчээ. Одоогоор эдгээр алдаанууд тод байгаа боловч AI загварууд илүү төвөгтэй болохын хэрээр үнэн, худлыг ялгахад улам хэцүү болох талаар мэргэжилтнүүд санаа зовниж байна. NYU-ийн Жулиан Майкл AI системүүдийг хүний ​​чадвараас давсан салбарт хянахад хэрхэн хүндрэлтэй болохыг онцолж байна. Санал болгож буй шийдлүүдийн нэг нь хоёр том AI загварыг мэтгэлцүүлэх бөгөөд аль нь илүү үнэн зөв үр дүнг гаргаж байгааг энгийн загвар эсвэл хүн тодорхойлох явдал юм. Энэ санаа зургаан жилийн өмнө гарч ирсэн боловч Anthropic болон Google DeepMind-ийн саяхны судалгаанууд анхны эмпирик нотолгоог санал болгох замаар LLM-ийн мэтгэлцээн үнэн зөвийг тодорхойлоход тусалж болохыг харуулсан байна. Итгэмжит AI системийг бий болгох нь AI-г хүний ​​үнэт зүйлстэй нийцүүлэх нэг хэсэг юм. Одоогийн нийцэл нь хүний ​​санал хүсэлтэд тулгуурладаг боловч хүний ​​чадвараас хэтэрсэн AI-ийн нарийвчлалыг хангахын тулд хэмжигдэхүйц хяналт шаардлагатай. 2018 оноос хойш судлагдсан мэтгэлцээнийг энэхүү хэмжээний хяналтыг зохицуулах аргачлал гэж үздэг. Анх OpenAI-ийн Жеффри Ирвингийн санал болгосон энэхүү арга барил нь хоёр AI загварыг асуулт дээр маргалдуулж тэдний үнэн зөвийг гадаад хянагчид итгүүлэхийг оролддог. 2018 онд хийгдсэн эхний бүдүүлэг туршилтууд мэтгэлцээн ажиллах боломжтойг харуулсан боловч хүний ​​хувийн үнэлэмж болон үнэлэх чадварын ялгаа байсаар байв.

Аманда Аскелл зэрэг судлаачид хүний ​​шийдвэр гаргах ажиллагааг ойлгох нь AI-ийг хүний ​​үнэт зүйлстэй үр дүнтэй нийцүүлэхэд чухал гэж үздэг. Эхний хольцтой үр дүнгээс үл харгалзан шинэ судалгаанууд боломжийг харуулж байна. Anthropic-ийн судалгаа нь LLM мэтгэлцээн нь мэргэжлийн бус шүүгчдийн үнэн зөвийг 54%-иас 76% болгон эрс сайжруулсан болохыг харуулсан. Google DeepMind-ийн ижил төстэй туршилтууд нь мэтгэлцээн олон янзын даалгавруудад нарийвчлалыг нэмэгдүүлсэн болохыг баталсан. Зэкарай Кентон шүүгчид хоёр талын үзэл бодлыг харах нь илүү их мэдээлэл өгч, илүү үнэн зөв дүгнэлтэд хүргэж байгааг онцолсон. Гэсэн хэдий ч, мэтгэлцээний үр дүнгүй шинж чанарууд болон AI хэрэглэгчийн тохиргоонуудыг буруу хүлээн авдаг тал засаглалууд зэрэг асуудлууд хэвээр байна. Мөн туршилтууд дахь зөв, буруу хариултын тогтсон шинж чанарууд нь бодит дэлхийн нарийн төвөгтэй, нарийвчилсан нөхцөл байдлуудтай ижил түүчэй байж чадахгүй. AI зан үйлд хөтлөгдөх болон AI системүүд хүний ​​шүүгчдийг мэдээллээрээ илүү гарсан мөчүүдийг тодорхойлох нь эдгээр аргуудыг хөгжүүлж хэрэглэхэд маш чухал гэж Ирвинг тэмдэглэжээ. Эдгээр саад бэрхшээлээс үл хамааран мэтгэлцээний эмпирик амжилт нь AI-ийн найдвартай байдал, нийцлийг сайжруулахад урагшлах боломжит алхамыг санал болгож байна.