У лютому 2023 року чат-бот штучного інтелекту від Google, Bard, помилково заявив, що космічний телескоп Джеймса Вебба зняв перше зображення екзопланети, виявивши помилки, схожі на ті, що були знайдені в ChatGPT від OpenAI під час дослідження вчених з Університету Пердью, де більш ніж половина з понад 500 програмувальних запитів були невірно відповіли. Хоча ці помилки зараз очевидні, експерти висловлюють занепокоєння, що у міру зростання складності моделей ШІ, розрізнення правди і дезінформації стане все складнішим завданням. Джуліан Майкл з Нью-Йоркського університету підкреслює складність контролю систем ШІ в областях, які перевищують людські можливості. Одне з пропонованих рішень - це дебати між двома великими моделями ШІ, при цьому простіша модель або людина визначатимуть більш точний результат. Ця ідея вперше з’явилася шість років тому; проте нещодавні дослідження Anthropic і Google DeepMind надають початкові емпіричні докази, що дебати між великими мовними моделями можуть допомогти розрізняти правду. Створення надійних систем ШІ є частиною процесу усунення розбіжностей, що забезпечує поділ значень ШІ з людськими. Наразі усунення розбіжностей залежить від зворотного зв'язку від людей, але масштабований нагляд — забезпечення точності ШІ, що виходить за межі людських можливостей, — необхідний у міру розвитку ШІ. Дебати, які досліджуються з 2018 року, розглядаються як спосіб управління цим масштабованим наглядом. Спочатку запропонований Джеффрі Ірвінгом в OpenAI, цей метод передбачає дебатування двох моделей ШІ з метою переконання зовнішнього судді у їхній правоті. Хоча початкові тести у 2018 році запропонували, що дебати працюють, важливими залишаються усвідомлення людської схильності до суб'єктивного судження і відмінності в оцінювальній здатності.

Дослідники як Аманда Аскелл стверджують, що розуміння людського процесу прийняття рішень є необхідним для ефективного узгодження ШІ з людськими цінностями. Незважаючи на змішані початкові результати, нові дослідження свідчать про потенціал. Дослідження Anthropic показало, що дебати великих мовних моделей значно покращили точність некваліфікованих суддів, підвищивши її до 76% з 54%. Подібні експерименти Google DeepMind підтвердили, що дебати призвели до підвищення точності в різноманітних завданнях. За словами Зака Кентона, надання обох сторін суддям надає більше інформації для прийняття більш точних висновків. Проте залишаються виклики, такі як вплив незначних особливостей дебатів та схильності, такі як підлабузництво, де ШІ може неточно відображати уподобання користувачів. Крім того, фіксована природа правильних чи неправильних відповідей у тестах може не відповідати складним, нюансованим реальним сценаріям. Розуміння поведінки ШІ та визначення, де системи ШІ перевищують знання людських суддів, є важливими для поточного розвитку та застосування цих методів, як зазначає Ірвінг. Попри ці труднощі, емпіричний успіх дебатів представляє перспективний прорив у напрямку покращення надійності та узгодженості ШІ.