Искусственный интеллект, такой как ChatGPT и "AI обзоры" от Google, известен своей способностью порождать бессмысленные ответы. Однако проблема здесь идет дальше. ИИ начал предоставлять неверную информацию о людях и их семьях. Примером тому является спам-письмо, полученное мужем автора, в котором была представлена ложная история их фамилии "Wirestone". Автор объясняет, что они создали эту фамилию в 2010 году путем перестановки букв из их оригинальных фамилий, и на тот момент они убедились, что никто другой не имел той же фамилии.

Однако ИИ-сгенерированные ответы, например, от ChatGPT, продолжают предоставлять неточные и авторитетные детали о несуществующей истории фамилии, включая языковые анализы и ложные происхождения. Эта неспособность ИИ различать истинную и ложную информацию связана с его вероятностной моделью угадывания языка. Автор выражает беспокойство относительно растущей зависимости от ИИ в различных платформах, таких как Google и Facebook, и подчеркивает необходимость скептицизма и полагаться на фактическую информацию, предоставленную людьми. В заключение автор призывает читателей сосредоточиться на реальности и игнорировать ИИ-генерируемые галлюцинации.