يعتقد خبراء الذكاء الاصطناعي أن مشكلة إعطاء الروبوتات الدردشة لأجوبة غير صحيحة أو مفبركة قابلة للحل ويمكن حلها خلال عام واحد. شرح رازا حبيب، مؤسس Humanloop، وهي شركة ناشئة متخصصة في تدريب النماذج اللغوية الكبيرة بكفاءة، أن النماذج معايرة بشكل جيد بالفعل قبل أن يتم ضبطها بتفضيلات الإنسان. التحدي يكمن في الحفاظ على المعرفة مع جعل النماذج أكثر قابلية للتحكم. ومع ذلك، لا يرى حبيب أنها بالضرورة مشكلة تحتاج إلى حل، حيث أن المستخدمين معتادون على التعامل مع التكنولوجيا غير المثالية.

في الواقع، يمكن أن تكون بعض هلوسات الذكاء الاصطناعي مفيدة في تعزيز الإبداع وتوليد أفكار جديدة. تطرقت المناقشة الجماعية أيضًا إلى حادثة سوء تفاهم روبوت الدردشة لشركة طيران كندا، حيث تلقى العملاء معلومات غير صحيحة ووعود بالاسترداد تم رفضها لاحقًا. أبرزت الحادثة أهمية إجراء اختبارات شاملة وتحديد المعايير المناسبة لروبوتات الدردشة.