Недавнє дослідження показало, що інструменти пошуку на базі штучного інтелекту часто дають неправильні відповіді з тривожною частотою. Columbia Journalism Review (CJR) провела розслідування, в якому представила вісім інструментів ШІ з уривком статті і поставила перед чатботами завдання виявити заголовок статті, оригінального видавця, дату публікації та URL. Результати показали, що ці чатботи надали неточні відповіді на понад 60 відсотків запитів. Природа помилок варіювалася суттєво. В деяких випадках інструменти, здається, спекулювали або давали неправильні відповіді, коли їм бракувало інформації. В інших випадках вони вигадували посилання або джерела, а іноді цитували плагіатні версії реальної статті. CJR зауважив: "Більшість інструментів, які ми оцінили, давали неточні відповіді з тривожною впевненістю, рідко використовуючи обережні вирази на кшталт 'здається', 'можливо' або визнаючи прогалини в знаннях з такими висловленнями, як 'я не зміг знайти точну статтю'". Хоча повне дослідження варто уважно вивчити, доцільно підійти до інструментів пошуку на базі ШІ з недовірою. Проте багато користувачів, схоже, не виявляють обережності.

CJR зазначив, що 25 відсотків американців повідомили про використання штучного інтелекту для пошуків замість звичайних пошукових систем. Google, домінуюча пошукова система, все більше просуває ШІ до користувачів. На початку цього місяця компанія оголосила про плани покращити AI-резюме та почала експериментувати з результатами пошуку лише на основі ШІ. Дослідження CJR доповнює зростаючий обсяг доказів, які демонструють неточності інструментів ШІ. Ці системи неодноразово доводили, що можуть впевнено надавати неправильну інформацію. Тим часом, великі технологічні компанії просувають ШІ практично в кожному продукті. Отже, важливо бути обережними щодо того, чому ви довіряєте в цифровому середовищі.