En nylig undersøgelse afslørede, at AI-søgeværktøjer ofte producerer forkerte svar med foruroligende hyppighed. Columbia Journalism Review (CJR) gennemførte en undersøgelse, hvor de præsenterede otte AI-værktøjer for et uddrag af en artikel og bad chatbots om at identificere artiklens overskrift, oprindelige udgiver, udgivelsesdato og URL. Resultaterne viste, at disse chatbots gav unøjagtige svar på over 60 procent af forespørgslerne. Arten af fejlene varierede betydeligt. I nogle tilfælde syntes værktøjerne at spekulere eller give forkerte svar, når de manglede information. I andre tilfælde fabrikere de links eller kilder, og lejlighedsvis citerede de plagierede versioner af den faktiske artikel. CJR bemærkede: "De fleste af de værktøjer, vi evaluerede, leverede unøjagtige svar med foruroligende selvsikkerhed, sjældent brugte de restriktive formuleringer som 'det ser ud til, ' 'det kunne være, ' eller anerkendte videnshuller med udsagn som 'jeg kunne ikke finde den præcise artikel. '" Selvom den fulde undersøgelse er værd at se nærmere på, er det klogt at nærme sig AI-søgeværktøjer med skepsis. Mange brugere ser dog ikke ud til at udvise forsigtighed.

CJR fremhævede, at 25 procent af amerikanerne rapporterede, at de brugte AI til søgninger i stedet for konventionelle søgemaskiner. Google, den dominerende søgemaskine, promoverer i stigende grad AI til brugerne. Tidligere på måneden annoncerede de planer om at forbedre AI-sammenfatninger og begyndte at eksperimentere med AI-enkelt søge-resultater. CJR's undersøgelse bidrager til et voksende bevismateriale, der viser unøjagtighederne i AI-værktøjer. Disse systemer har gentagne gange demonstreret, at de kan give forkerte oplysninger med selvsikkerhed. I mellemtiden presser store tech-virksomheder AI ind i næsten hvert produkt. Derfor er det vigtigt at være selektiv med, hvad man stoler på i det digitale landskab.