ในเดือนกุมภาพันธ์ 2023 แชทบอทเอไอของ Google ที่ชื่อ Bard ระบุผิดว่า James Webb Space Telescope ถ่ายภาพแรกของดาวเคราะห์นอกระบบสุริยะได้ ส่งผลให้เกิดข้อผิดคล้ายกับข้อผิดพลาดที่พบใน ChatGPT ของ OpenAI ระหว่างการศึกษาของนักวิจัยที่มหาวิทยาลัย Purdue ซึ่งพบว่ามากกว่าครึ่งของคำถามเกี่ยวกับการเขียนโปรแกรมกว่า 500 ข้อนั้นถูกตอบไม่ถูกต้อง แม้ข้อผิดพลาดเหล่านี้ยังสังเกตเห็นได้ชัดเจน ผู้เชี่ยวชาญแสดงความกังวลว่าเมื่อโมเดลเอไอซับซ้อนมากขึ้น จะเป็นการท้าทายที่จะแยกแยะความจริงจากข้อมูลเท็จ Julian Michael จาก NYU เน้นถึงความยากในการดูแลระบบเอไอในด้านเกินขีดความสามารถของมนุษย์ หนึ่งในวิธีแก้ปัญหาที่ถูกเสนอคือการให้สองโมเดลเอไอขนาดใหญ่มาถกเถียงกัน โดยมีโมเดลที่ง่ายกว่าหรือมนุษย์ตัดสินผลที่ถูกต้องกว่า แนวคิดนี้เกิดขึ้นครั้งแรกเมื่อหกปีที่แล้ว อย่างไรก็ตาม การศึกษาใหม่ ๆ โดย Anthropic และ Google DeepMind ได้เสนอหลักฐานทางประจักษ์เบื้องต้นว่าการดีเบตของ LLM สามารถช่วยแยกแยะความจริงได้ การสร้างระบบเอไอที่น่าเชื่อถือเป็นส่วนหนึ่งของการจัดแนวที่ทำให้เอไอมีค่านิยมร่วมกับมนุษย์ การจัดแนวปัจจุบันพึ่งการตอบรับจากมนุษย์ แต่การกำกับดูแลในระดับที่ขยายออกไป ซึ่งทำให้มั่นใจในความถูกต้องของเอไอเกินขีดความสามารถของมนุษย์นั้นมีความจำเป็นเมื่อเอไอก้าวหน้า การดีเบตซึ่งเริ่มสำรวจตั้งแต่ปี 2018 ถูกพิจารณาว่าเป็นวิธีจัดการการกำกับดูแลที่ขยายออกไป ในตอนแรกได้เสนอโดย Geoffrey Irving ที่ OpenAI เทคนิคนี้เกี่ยวข้องกับการที่โมเดลเอไอสองโมเดลถกเถียงคำถามเพื่อชักจูงผู้ตัดสินภายนอกให้เห็นด้วยถึงความถูกต้องของพวกมัน แม้ว่าการทดสอบขั้นพื้นฐานในปี 2018 จะชี้ว่าการดีเบตอาจใช้ได้ แต่ความตระหนักถึงแนวโน้มมนุษย์ต่อการตัดสินจากมุมมองส่วนตัวและความแตกต่างในความสามารถการประเมินยังคงเป็นความกังวล นักวิจัยอย่าง Amanda Askell โต้แย้งว่าการเข้าใจการตัดสินใจของมนุษย์เป็นสิ่งจำเป็นในการทำให้เอไอจัดแนวกับค่านิยมของมนุษย์อย่างมีประสิทธิภาพ แม้ว่าผลเบื้องต้นจะไม่แน่ชัด การศึกษาใหม่แสดงถึงศักยภาพ การศึกษาของ Anthropic ชี้ว่าการดีเบตของ LLM ช่วยเพิ่มความแม่นยำของผู้ตัดสินที่ไม่ใช่ผู้เชี่ยวชาญอย่างมีนัยสำคัญ เพิ่มขึ้นเป็น 76% จาก 54% การทดลองที่คล้ายกันของ Google DeepMind ยืนยันว่าการดีเบตนำไปสู่การเพิ่มความแม่นยำในงานที่หลากหลาย Zachary Kenton ระบุว่าการเห็นทั้งสองฝ่ายให้ข้อมูลมากขึ้นแก่ผู้ตัดสิน ส่งเสริมข้อสรุปที่แม่นยำกว่า อย่างไรก็ตาม ยังมีความท้าทาย เช่น การมีอิทธิพลของลักษณะการดีเบตที่ไร้สาระและอคติเช่นการตามใจที่เอไออาจสะท้อนความชอบของผู้ใช้อย่างไม่ถูกต้อง นอกจากนี้ คำตอบที่ถูกหรือผิดในปัจจุบันอาจไม่สามารถแปลไปสู่สถานการณ์จริงที่ซับซ้อนและละเอียดอ่อนได้ การเข้าใจพฤติกรรมเอไอและการระบุว่าเอไอมีความรู้เกินกว่าผู้ตัดสินมนุษย์ในด้านใดเป็นสิ่งสำคัญสำหรับการพัฒนาต่อเนื่องและการประยุกต์ใช้วิธีการเหล่านี้ดังที่ Irving ระบุ แม้จะมีอุปสรรคเหล่านี้ ความสำเร็จทางประจักษ์ของการดีเบตก็แสดงถึงความก้าวหน้าที่มีศักยภาพในการปรับปรุงความน่าเชื่อถือและการจัดแนวเอไอ