در فوریه ۲۰۲۳، ربات گفتگوگر هوش مصنوعی گوگل به نام Bard به‌اشتباه اعلام کرد که تلسکوپ فضایی جیمز وب اولین تصویر از یک سیاره خارج از منظومه شمسی را ثبت کرده است، که خطاهایی مشابه با آنچه در مطالعه‌ای توسط پژوهشگران دانشگاه پوردو در ChatGPT اوپن‌ای‌آی مشاهده شد، جایی‌که بیش از نیمی از بیش از ۵۰۰ پرسش برنامه‌نویسی به‌اشتباه پاسخ داده شده بودند. در حالی که این خطاها در حال حاضر قابل تشخیص هستند، کارشناسان ابراز نگرانی می‌کنند که با رشد پیچیدگی مدل‌های هوش مصنوعی، تشخیص حقیقت از اطلاعات نادرست به طور فزاینده‌ای چالش‌برانگیز خواهد شد. جولیان مایکل از دانشگاه نیویورک به دشواری نظارت بر سیستم‌های هوش مصنوعی در حوزه‌هایی فراتر از ظرفیت انسانی اشاره می‌کند. یکی از راه‌حل‌های پیشنهادی، اجازه دادن به دو مدل بزرگ هوش مصنوعی برای بحث است، به طوری که یک مدل ساده‌تر یا یک انسان، نتیجه دقیق‌تر را تعیین کند. این ایده اولین بار شش سال پیش مطرح شد؛ با این حال، مطالعات اخیر توسط Anthropic و Google DeepMind شواهد تجربی اولیه‌ای ارائه می‌دهند که بحث‌های LLM می‌تواند به تشخیص حقیقت کمک کند. ایجاد سیستم‌های هوش مصنوعی قابل‌اعتماد بخشی از هم‌راستایی است که به اطمینان از اشتراک ارزش‌های انسانی توسط هوش مصنوعی اشاره دارد. هم‌راستایی فعلی به بازخورد انسانی وابسته است، اما نظارت مقیاس‌پذیر – اطمینان از دقت هوش مصنوعی فراتر از توانایی انسانی – به‌عنوان هوش مصنوعی پیشرفت می‌کند، ضروری است. بحث، که از سال ۲۰۱۸ مورد بررسی قرار گرفته است، به‌عنوان روشی برای مدیریت این نظارت مقیاس‌پذیر قلمداد می‌شود. این تکنیک ابتدا توسط جفری اروینگ در OpenAI پیشنهاد شد و شامل دو مدل هوش مصنوعی است که درباره یک سوال مناظره می‌کنند تا یک داور خارجی از درستی آنها قانع شود. اگرچه آزمایش‌های اولیه در سال ۲۰۱۸ نشان داد که بحث می‌تواند کار کند، آگاهی از تمایل انسانی به قضاوت‌های ذهنی و تفاوت در توانایی ارزیابی همچنان نگرانی‌هایی بود.

پژوهشگرانی مانند آماندا اسکول استدلال می‌کنند که درک تصمیم‌گیری انسانی برای هم‌راستایی موفقیت‌آمیز هوش مصنوعی با ارزش‌های انسانی ضروری است. با وجود یافته‌های اولیه‌ متنوع، مطالعات جدید نشان‌دهنده پتانسیل هستند. مطالعه Anthropic نشان داد که بحث‌های LLM دقت قضاوت‌های غیرحرفه‌ای را به طور قابل‌توجهی به ۷۶ درصد از ۵۴ درصد افزایش داد. آزمایش‌های مشابه در Google DeepMind تأیید کرد که بحث به دقت بیشتر در وظایف مختلف منجر می‌شود. زکری کنتون اظهار می‌کند دیدن هر دو طرف اطلاعات بیشتری برای قضاوت‌کنندگان فراهم می‌کند و به دستیابی به نتایج دقیق‌تر کمک می‌کند. اما چالش‌هایی مانند تأثیر ویژگی‌های غیرمهم در بحث و تعصباتی نظیر تأیید عقاید که در آن هوش مصنوعی ممکن است به طور نادرست ترجیحات کاربر را بازتاب دهد، باقی می‌ماند. همچنین، ماهیت ثابت پاسخ‌های درست یا غلط در آزمون‌ها ممکن است به سناریوهای پیچیده و ظریف زندگی واقعی منتقل نشود. درک رفتار هوش مصنوعی و شناسایی محل‌هایی که سیستم‌های هوش مصنوعی از نظر دانش از قضات انسانی فراتر می‌روند، برای توسعه و کاربرد مداوم این روش‌ها حیاتی است، همان‌طور که توسط اروینگ اشاره شده است. با وجود این موانع، موفقیت تجربی مباحث نشان‌دهنده پیشرفتی امیدوارکننده به سمت بهبود قابلیت اعتماد و هم‌راستایی هوش مصنوعی است.