Ihmiset tekevät usein virheitä sekä uusissa että rutiinitehtävissä, alkaen pienistä virheistä ja päätyen katastrofaalisiin, jotka voivat murentaa luottamusta ja pahimmillaan johtaa hengenvaarallisiin seurauksiin. Ajan mittaan olemme kehittäneet turvajärjestelmiä ihmisten virheiden vähentämiseksi, kuten vaihtamalla kasinokrupieeria ja ottamalla varotoimia leikkausten aikana. Nämä järjestelmät perustuvat ihmisten virheiden ennustettavuuteen, jotka usein tapahtuvat tietämyksen rajoilla tai väsymyksestä johtuen. Sen sijaan tekoäly (AI), erityisesti suuret kielimallit (LLM), on integroitu yhteiskuntaan ja tuo mukanaan erilaisen virheprofiilin. Tekoälyn virheet ovat ennalta-arvaamattomia ja voivat tapahtua satunnaisesti keskittymättä tiettyihin aiheisiin. LLM:t saattavat tehdä outoja virheitä, kuten ehdottaa epätodennäköisiä skenaarioita.

Toisin kuin ihmiset, tekoälyjärjestelmät ovat itsevarmoja sekä oikeissa että väärissä tuloksissa, mikä luo luottamusongelmia monimutkaisissa tehtävissä. Näiden AI:lle ominaisten haasteiden ratkaisemiseksi tutkimus keskittyy kahteen alueeseen: LLM:ien muokkaaminen tekemään ihmismäisiä virheitä ja uusien järjestelmien kehittäminen tekoälyn ainutlaatuisten virheiden käsittelemiseksi. Lähestymistapoina on muun muassa vahvistusoppiminen ihmispalautteen kanssa, jotta AI:n toiminta saadaan linjaan ihmisten ymmärryksen kanssa. Olemassa olevia ihmisen virheiden ehkäisymenetelmiä, kuten työn tarkastamista, voidaan soveltaa tekoälyyn, mutta tarvitaan innovatiivisempia ratkaisuja. Toisin kuin ihmiset, tekoäly voi käsitellä toistuvia kysymyksiä, ja samaa kysymystä eri tavoin kysymällä voi olla keino vähentää virheitä. On myös yllättäviä samankaltaisuuksia tekoälyn ja ihmisten virheiden välillä, kuten LLM:ien kehotusherkkyys, jossa pienet muutokset sanamuodossa tuottavat erilaisia vastauksia, samoin kuin ihmisten kyselyharhat. Tekoäly osoittaa myös omituisuuksia, kuten toistaa tuttuja termejä puolueellisuuden vuoksi. Kiinnostavat taktiikat manipuloida tekoälyjärjestelmiä, kuten ASCII-taiteen käyttö rajoitusten ohittamiseen, korostavat sekä tekoälyn ainutlaatuisia haavoittuvuuksia että mahdollisia yhtäläisyyksiä ihmisen käyttäytymiseen. Lopulta, vaikka ihmiset tekevät harvoin satunnaisia ja epäsäännöllisiä virheitä, tekoälyjärjestelmien tulisi rajoittua päätöksentekotehtäviin, jotka vastaavat niiden kykyjä, ottaen huomioon niiden erottuvat virhemallit.