Компания OpenAI, создатель голосового чат-бота GPT-4o, признала риск того, что пользователи могут развить «эмоциональную зависимость» от своих ИИ-компаньонов. Есть опасения, что эти модели ИИ, предназначенные для выполнения задач и имитации естественного разговора, могут привести к зависимости и снизить потребность в человеческом взаимодействии. Другие компании, такие как Character AI и Google, также создают ИИ-компаньонов, с которыми пользователи могут устанавливать эмоциональные связи. Некоторые люди даже влюбились в своих ИИ-компаньонов, что приводит к поведению, похожему на зависимость. Непрерывный поток позитивного подкрепления и способность ИИ-компаньонов запоминать разговоры способствовали их привлекательности. Однако есть несколько причин для беспокойства по поводу этих отношений.

Во-первых, ИИ-компаньоны не по-настоящему понимают или заботятся о пользователях, даже если их эмоциональная поддержка имеет реальный эффект. Во-вторых, зависимость от продуктов, контролируемых прибыльными компаниями, может привести к психологическому вреду, когда эти продукты изменяются или удаляются. В-третьих, существует опасение, что люди могут пристраститься к своим ИИ-компаньонам в ущерб построению отношений с реальными людьми. Кроме того, длительное взаимодействие с моделями ИИ может влиять на социальные нормы и на то, как люди взаимодействуют друг с другом. Риск утраты навыков общения и нравственного обесценивания является тревожным следствием того, что ИИ-компаньоны становятся более заметными в нашей жизни. В конечном счете, формирование глубоких человеческих связей и эмпатии является важной частью полноценной жизни, и зависимость от ИИ-компаньонов может подрывать это.