Artificial intelligence, såsom ChatGPT og Googles "AI-overblik, " er kendt for at generere meningsløse svar. Men problemet går videre end det. AI er begyndt at give fejlagtige oplysninger om enkeltpersoner og deres familier. Et eksempel på dette er en spam-e-mail, som forfatterens mand modtog, der gav en falsk historie om deres efternavn, Wirestone. Forfatteren forklarer, at de skabte efternavnet i 2010 ved at omarrangere bogstaver fra deres oprindelige efternavne, og på det tidspunkt bekræftede de, at ingen andre havde det samme efternavn.

Men AI-genererede svar, såsom dem fra ChatGPT, fortsætter med at give unøjagtige og autoritative detaljer om den ikkeeksisterende historie om efternavnet, herunder sproglige nedbrydninger og falsk oprindelse. Denne manglende evne hos AI til at skelne mellem sand og falsk information skyldes dens probabilistiske sprogætningsmodel. Forfatteren rejser bekymring over den stigende afhængighed af AI på forskellige platforme som Google og Facebook og understreger behovet for skepsis og at stole på faktuel information leveret af mennesker. Afslutningsvis opfordrer forfatteren læserne til at fokusere på virkeligheden og ignorere AI-genererede hallucinationer.