Ludzie często popełniają błędy zarówno w nowych, jak i rutynowych zadaniach, od drobnych pomyłek po katastrofalne, które mogą podważyć zaufanie i potencjalnie mieć konsekwencje życia lub śmierci. Z czasem opracowaliśmy systemy bezpieczeństwa minimalizujące błędy ludzkie, takie jak rotacja krupierów w kasynach czy podejmowanie środków ostrożności podczas operacji. Systemy te opierają się na przewidywalności ludzkich błędów, które często zdarzają się na granicach wiedzy lub są spowodowane czynnikami, takimi jak zmęczenie. W przeciwieństwie do tego, sztuczna inteligencja (AI), a konkretnie duże modele językowe (LLM), są wprowadzane do społeczeństwa, przedstawiając inny profil błędów. Błędy AI są nieprzewidywalne i mogą występować losowo, bez skupiania się na określonych tematach. LLM mogą popełniać błędy dziwaczne, sugerując mało prawdopodobne scenariusze. W przeciwieństwie do ludzi, systemy AI wykazują pewność zarówno w prawidłowych, jak i błędnych odpowiedziach, co tworzy problemy z zaufaniem w złożonych zadaniach. Aby sprostać tym specyficznym dla AI wyzwaniom, badania koncentrują się na dwóch obszarach: inżynierii LLM, aby popełniały bardziej ludzkie błędy oraz opracowywaniu nowych systemów w celu rozwiązania unikatowych błędów AI.

Wykorzystywane są metody takie jak uczenie się przez wzmacnianie z opinią ludzką, aby dostosować zachowanie AI do ludzkiego rozumienia. Istniejące metody zapobiegania błędom ludzkim, takie jak podwójne sprawdzanie pracy, mogą być stosowane w przypadku AI, ale potrzebne są bardziej innowacyjne rozwiązania. W przeciwieństwie do ludzi, AI mogą znosić powtarzające się pytania, a zadawanie tego samego pytania na różne sposoby może być strategią redukcji błędów. Istnieją także zaskakujące podobieństwa między błędami AI a ludzkimi, takie jak problem wrażliwości na sformułowanie w LLM, gdzie niewielkie zmiany w wyrażeniach wpływają na różne odpowiedzi, podobnie jak w przypadku ludzkich uprzedzeń ankietowych. AI wykazuje także dziwactwa, takie jak powtarzanie znanych terminów z powodu uprzedzeń. Niektóre intrygujące sposoby manipulacji systemami AI, takie jak używanie ASCII art do omijania ograniczeń, uwypuklają zarówno unikalne podatności AI, jak i potencjalne analogie do ludzkiego zachowania. Ostatecznie, podczas gdy ludzie rzadko popełniają losowe i gwałtowne błędy, systemy AI powinny być ograniczone do zadań decyzyjnych zgodnych z ich możliwościami, biorąc pod uwagę ich charakterystyczne wzorce błędów.