غالبًا ما يرتكب البشر أخطاء في المهام الجديدة والروتينية، تتراوح من أخطاء بسيطة إلى كوارث يمكن أن تؤدي إلى تآكل الثقة وتؤثر على الحياة والموت. على مر الوقت، طوّرنا أنظمة أمان للتخفيف من الأخطاء البشرية، مثل تغيير موزعي الكازينو واتخاذ الاحتياطات أثناء العمليات الجراحية. تعتمد هذه الأنظمة على قابلية التنبؤ بالأخطاء البشرية، والتي تحدث غالبًا على حدود المعرفة أو بسبب عوامل مثل التعب. على النقيض من ذلك، يتم دمج الذكاء الاصطناعي، وخاصة النماذج اللغوية الكبيرة، في المجتمع مما يبرز نوع مختلف من الخطأ. أخطاء الذكاء الاصطناعي غير متوقعة ويمكن أن تحدث عشوائيًا، دون تجمع حول مواضيع محددة. يمكن أن يقترح الذكاء الاصطناعي سيناريوهات غير عادية.

بخلاف البشر، تظهر أنظمة الذكاء الاصطناعي ثقة في النتائج الصحيحة والغير صحيحة، ما يثير مشكلات الثقة في المهام المعقدة. لمعالجة هذه التحديات الخاصة بالذكاء الاصطناعي، ينصب البحث على مجالين: هندسة النماذج اللغوية الكبيرة لجعل الأخطاء مشابهة لأخطاء البشر، وتطوير أنظمة جديدة للتعامل مع الأخطاء الفريدة للذكاء الاصطناعي. يتم استخدام طرق مثل التعلم المعزز مع التعليقات البشرية لمحاذاة سلوك الذكاء الاصطناعي مع الفهم البشري. يمكن تطبيق طرق الوقاية من الأخطاء البشرية الموجودة، مثل التحقق المزدوج من العمل، على الذكاء الاصطناعي، ولكن هناك حاجة للحلول الأكثر ابتكارًا. بخلاف البشر، يمكن للذكاء الاصطناعي التعامل مع الاستجواب المتكرر، وطرح نفس السؤال بطرق مختلفة يمكن أن يكون استراتيجية لتقليل الأخطاء. هناك أيضًا أوجه تشابه مفاجئة بين أخطاء الذكاء الاصطناعي والبشر، مثل قضية حساسية الأوامر في النماذج اللغوية الكبيرة، حيث تؤدي التغييرات الطفيفة في الصياغة إلى استجابات مختلفة، مشابهة للتحيزات في استطلاعات الرأي البشرية. كما يظهر الذكاء الاصطناعي انحرافات مثل تكرار المصطلحات المألوفة بسبب الانحياز. بعض التكتيكات المثيرة للاهتمام للتلاعب بأنظمة الذكاء الاصطناعي، مثل استخدام فن الأسيكي لتجاوز القيود، تبرز نقاط الضعف الفريدة للذكاء الاصطناعي وتوازيه المحتمل مع السلوك البشري. في النهاية، بينما يندر أن يرتكب البشر أخطاء عشوائية وغير متوقعة، يجب تقييد أنظمة الذكاء الاصطناعي في مهام اتخاذ القرار التي تتماشى مع قدراتها، مع مراعاة أنماط الخطأ المميزة لها.