Inimesed teevad sageli vigu nii uutes kui ka rutiinsetes ülesannetes, ulatudes väikestest eksimustest katastroofilisteni, mis võivad usaldust õõnestada ja potentsiaalselt eluohtlikke tagajärgi põhjustada. Aja jooksul oleme välja töötanud turvasüsteemid, et inimlikke vigu vähendada, näiteks diilerite vahetamine kasiinodes ja ettevaatusabinõude rakendamine operatsioonidel. Need süsteemid tuginevad inimlike vigade ennustatavusele, mis tekivad sageli teadmispiiridel või väsimuse tõttu. Vastupidiselt sellele, tehisintellekti (AI), eriti suured keelemudelid (LLM-id), integreeritakse ühiskonda, pakkudes teistsugust veaprofiili. AI vead on ettearvamatud ja võivad esineda juhuslikult, klastriteta kindlate teemade ümber. LLM-id võivad teha kummalisi vigu, soovitades ebatõenäolisi stsenaariume.

Erinevalt inimestest näitavad AI süsteemid kindlust nii õigete kui ka valede väljundite suhtes, luues usaldusprobleeme keerukate ülesannete puhul. Nendele AI-spetsiifilistele väljakutsetele vastamiseks keskendub uurimistöö kahele valdkonnale: LLM-ide kujundamine, et teha rohkem inimmoodi vigu, ja uute süsteemide väljatöötamine, et tegeleda AI ainulaadsete vigadega. Kasutatakse meetodeid nagu tugevdusõpe koos inimtagasisidega, et viia AI käitumine vastavusse inimliku arusaamisega. Olemasolevaid inimvigade ennetamismeetodeid, nagu töö topeltkontrollimine, saab rakendada AI-le, kuid on vaja innovatiivsemaid lahendusi. Erinevalt inimestest suudab AI taluda korduvaid küsimusi ning sama küsimuse erineval viisil esitamine võib olla strateegia vigade vähendamiseks. Leidub ka üllatavaid sarnasusi AI ja inimlike vigade vahel, nagu LLM-ide tundlikkus käskude suhtes, kus kerge sõnastuse muutmine annab erinevaid vastuseid, sarnaselt inimeste küsitlusharjumustele. AI demonstreerib ka imelikke omadusi, nagu kalduvus korduvatele tuttavatele terminitele kallutatuse tõttu. Mõned intrigeerivad taktikad AI süsteemide manipuleerimiseks, nagu ASCII kunsti kasutamine piirangutest möödahiilimiseks, toovad esile nii AI ainulaadsed haavatavused kui ka potentsiaalsed paralleelid inimkäitumisega. Lõppkokkuvõttes, kuigi inimesed teevad harva juhuslikke ja ettearvamatuid vigu, peaks AI süsteemid piirduma otsuste tegemise ülesannetega, mis vastavad nende võimetele, võttes arvesse nende eripäraseid veamustreid.