Kunstige intelligensmodeller har i lang tid kæmpet med hallucinationer, en brancherejet eufemisme for de falske oplysninger, som store sprogmodeller ofte fremlægger som fakta. Hvis man vurderer ud fra retningen, som de nyeste "resonerende" modeller—udviklet af virksomheder som Google og OpenAI for at "tænke" grundigt over problemer, før de svarer—har problemet forværret sig i stedet for at blive bedre. Som rapporteret af The New York Times vokser AI-modellernes kraft, og deres tendens til at hallucinerer øges ikke mindskes. Dette er en ubelejlig realitet, da flere brugere strømmer til AI-chatbots som OpenAI's ChatGPT og anvender dem til en stadigt bredere vifte af opgaver. Når chatbots genererer tvivlsomme eller forkerte påstande, risikerer brugerne at komme til at fremstå som uvidende eller endnu værre konsekvenser. Endnu mere bekymrende er det, at AI-virksomheder har svært ved at finde ud af, hvorfor chatbots nu producerer flere fejl end tidligere—en forvirrende situation, der understreger, at selv skaberne af AI ikke fuldt ud forstår, hvordan teknologien fungerer. Dette alarmerende mønster udfordrer den udbredte tro i branchen om, at skalering af AI-modeller automatisk vil gøre dem mere pålidelige og kapable. Intet mindre end utroligt høje er indsatsen, da virksomheder fortsætter med at investere titals milliarder af dollars i opbygning af AI-infrastruktur til stadig større og kraftfuldere "resonerings" modeller. Nogle eksperter mener, at hallucinationer kan være iboende i teknologien, hvilket gør det næsten umuligt at eliminere problemet helt. “På trods af vores allerbedste indsats vil de altid hallucinerer, ” sagde Amr Awadallah, CEO for AI-startupen Vectara, til The New York Times.

“Det vil aldrig forsvinde. ” Problemet er så udbredt, at hele virksomheder nu specialiserer sig i at hjælpe virksomheder med at håndtere og mindske hallucinationer. “Hvis man ikke håndterer disse fejl korrekt, eliminerer man principielt værdien af AI-systemer, ” fortalte Pratik Verma, medstifter af Okahu, en konsulentvirksomhed, der hjælper virksomheder med at udnytte AI mere effektivt, til NYT. Dette sker efter, at OpenAI's nyeste resonansmodeller, o3 og o4-mini, udgivet sidst måned, blev fundet at hallucinerer oftere end de tidligere versioner. På OpenAI’s interne nøjagtighedsbenchmark hallucinerede o4-mini-modellen 48 procent af tiden, hvilket viser dårlig sandfærdighed. o3-modellen havde en hallucinationsrate på 33 procent, omtrent det dobbelte af virksomhedens tidligere resonansmodeller. Tilsvarende, som The New York Times bemærker, står konkurrenter som Google og DeepSeek over for de samme problemer, hvilket indikerer, at dette er en brancheomfattende udfordring. Eksperter advarer om, at efterhånden som AI-modeller bliver større, aftager de forbedringer, hver nye model bringer i forhold til den tidligere. Da virksomheder hurtigt udtømmer de tilgængelige træningsdata, inddrager mange syntetiske—eller AI-genererede—data til træning, hvilket potentielt kan have katastrofale konsekvenser. Kort sagt, trods igangværende bestræbelser er hallucinationer mere udbredte end nogensinde, og teknologien viser i øjeblikket ingen tegn på forbedring. For mere om AI-hallucinationer, se: “You Can’t Lick a Badger Twice”: Google's AI Is Making Up Explanations for Nonexistent Folksy Sayings.