Mennesker laver ofte fejl i både nye og rutinemæssige opgaver, fra mindre fejl til katastrofale, der kan underminere tillid og potentielt have livstruende konsekvenser. Over tid har vi udviklet sikkerhedssystemer for at mindske menneskelige fejl, som f. eks. at rotere casino-dealere og tage forholdsregler under operationer. Disse systemer er afhængige af forudsigeligheden af menneskelige fejl, der ofte opstår ved grænserne af viden eller på grund af faktorer som træthed. I modsætning hertil bliver kunstig intelligens (AI), specifikt store sprogmodeller (LLMs), integreret i samfundet med en anden fejlprofil. AI-fejl er uforudsigelige og kan opstå tilfældigt uden at samle sig omkring specifikke emner. LLM'er kan lave bizarre fejl, som at foreslå usandsynlige scenarier.

I modsætning til mennesker udviser AI-systemer selvtillid ved både korrekte og forkerte resultater, hvilket skaber tillidsproblemer i komplekse opgaver. For at løse disse AI-specifikke udfordringer fokuserer forskningen på to områder: at udforme LLM'er til at lave mere menneskelignende fejl og udvikle nye systemer til at addressere de unikke fejl ved AI. Metoder som forstærkningslæring med menneskelig feedback bruges til at tilpasse AI's adfærd til menneskelig forståelse. Eksisterende metoder til forebyggelse af menneskelige fejl, såsom dobbeltkontrol af arbejde, kan anvendes på AI, men mere innovative løsninger er nødvendige. I modsætning til mennesker kan AI håndtere gentagne spørgsmål, og at stille det samme spørgsmål på forskellige måder kan være en strategi for at reducere fejl. Der er også overraskende ligheder mellem AI- og menneskefejl, som den følsomhed i formleringer hos LLM'er, hvor små ændringer i formuleringer giver forskellige svar, ligesom menneskelige spørgeskemabias. AI udviser også særheder som at gentage kendte termer på grund af bias. Nogle interessante taktikker til at manipulere AI-systemer, såsom at bruge ASCII-kunst for at omgå begrænsninger, fremhæver både AI's unikke sårbarheder og potentielle paralleller til menneskelig adfærd. I sidste ende, mens mennesker sjældent laver tilfældige og uforudsigelige fejl, bør AI-systemer begrænses til beslutningsopgaver, der er i tråd med deres kapaciteter, med tanke på deres karakteristiske fejlmønstre.