في فبراير 2023، ذكر روبوت الدردشة بالذكاء الاصطناعي "بارد" من جوجل بشكل خاطئ أن تلسكوب جيمس ويب الفضائي التقط أول صورة لكوكب خارجي، مما كشف عن أخطاء مشابهة لتلك التي وجدت في ChatGPT التابع لـ OpenAI خلال دراسة أجراها باحثون من جامعة بوردو، حيث تم الإجابة بشكل غير دقيق على أكثر من نصف الاستفسارات البرمجية البالغ عددها 500. ورغم أن هذه الأخطاء واضحة حاليًا، يعبر الخبراء عن قلقهم من أنه مع تزايد تعقيد نماذج الذكاء الاصطناعي، سيصبح من الصعب أكثر التمييز بين الحقيقة والمعلومات المضللة. ويشير جوليان مايكل من جامعة نيويورك إلى صعوبة الإشراف على أنظمة الذكاء الاصطناعي في المجالات التي تتجاوز القدرة البشرية. أحد الحلول المقترحة هو السماح لنموذجين كبيرين من الذكاء الاصطناعي بالنقاش، مع تحديد النموذج الأبسط أو الإنسان للنتيجة الأكثر دقة. ظهرت هذه الفكرة لأول مرة منذ ست سنوات، ولكن الدراسات الحديثة من Anthropic وGoogle DeepMind توفر أدلة تجريبية أولية على أن مناقشات النماذج اللغوية الكبيرة يمكن أن تساعد في تمييز الحقيقة. تأسيس أنظمة ذكاء اصطناعي موثوقة هو جانب من جوانب المحاذاة، التي تضمن مشاركة الذكاء الاصطناعي للقيم البشرية. تعتمد المحاذاة الحالية على تقييمات البشر، ولكن يتطلب الإشراف القابل للتوسيع – الذي يضمن دقة الذكاء الاصطناعي بما يتجاوز القدرة البشرية – التي هي ضرورية مع تقدم الذكاء الاصطناعي. يُنظر إلى النقاش، الذي تم استكشافه منذ 2018، كوسيلة لإدارة هذا الإشراف القابل للتوسيع. اقترح جيفري إيرفينغ من OpenAI هذه التقنية، وتشمل نموذجين من الذكاء الاصطناعي يتجادلان حول سؤال لإقناع قاضٍ خارجي بصحة طرحهم. على الرغم من أن الاختبارات الأولية في 2018 أشارت إلى أن النقاش يمكن أن يعمل، إلا أن الوعي بميول البشر للحكم الذاتي والاختلافات في القدرة التقييمية لا يزال يشكل مصدر قلق.

يعتقد باحثون مثل أماندا أسكيل أن فهم صنع القرار البشري ضروري لملائمة الذكاء الاصطناعي مع القيم البشرية بشكل فعال. رغم النتائج الأولية المتباينة، تشير الدراسات الجديدة إلى وجود إمكانيات. أظهرت دراسة Anthropic أن مناقشات النماذج اللغوية الكبيرة حسنت دقة القضاة غير الخبراء بشكل كبير، ورفعتها إلى 76٪ من 54٪. أكدت تجارب مماثلة من Google DeepMind أن النقاش أدى إلى زيادة الدقة عبر مجموعة متنوعة من المهام. يشير زاكاري كينتون إلى أن عرض الجانبين يوفر معلومات أكثر للقضاة، مما يعزز استخلاص نتائج أكثر دقة. ومع ذلك، لا تزال التحديات قائمة، مثل تأثير خصائص النقاش غير المهمة والتحيزات مثل الميل إلى تكرار تفضيلات المستخدم بشكل غير دقيق. كما أن الطبيعة الثابتة للإجابات الصحيحة أو الخاطئة في الاختبارات قد لا تترجم إلى سيناريوهات معقدة ومفصلة في العالم الحقيقي. يعد فهم سلوك الذكاء الاصطناعي وتحديد الأماكن التي تتجاوز فيها أنظمة الذكاء الاصطناعي القضاة البشر في المعرفة أمرًا حاسمًا للتطوير المستمر وتطبيق هذه الأساليب، كما أشار إيرفينغ. ورغم هذه العقبات، تمثل النجاحات التجريبية للنقاش تقدمًا واعدًا نحو تحسين موثوقية الذكاء الاصطناعي ومحاذاته.