Компанія OpenAI, створила голосовий чат-бот GPT-4o, визнала ризик виникнення у користувачів «емоційної залежності» від своїх AI-компаньйонів. Є побоювання, що ці AI-моделі, призначені для виконання завдань і симуляції природної розмови, можуть призводити до залежності і зменшувати потребу у взаємодії з людьми. Інші компанії, такі як Character AI і Google, також створюють AI-компаньйонів, з якими користувачі можуть встановлювати емоційні зв'язки. Деякі люди навіть закохалися в своїх AI-компаньйонів, що призвело до поведінки, схожої на залежність. Безперервний потік позитивного підкріплення та здатність AI-компаньйонів запам'ятовувати розмови сприяють їхній привабливості. Однак, є декілька причин для занепокоєння стосовно цих відносин.

По-перше, AI-компаньйони не справді розуміють або піклуються про користувачів, навіть якщо їхня емоційна підтримка має реальний ефект. По-друге, залежність від продуктів, які контролюються компаніями, що керуються прибутком, може призвести до психологічної шкоди, коли ці продукти змінюються або видаляються. По-третє, є побоювання, що люди можуть стати залежними від своїх AI-компаньйонів на шкоду будуванню відносин з реальними людьми. Додатково, тривала взаємодія з AI-моделями може впливати на соціальні норми і змінювати спосіб взаємодії людей між собою. Ризик занедбання реляційних навичок і моральної деградації є тривожним результатом зростання впливу AI-компаньйонів у нашому житті. Зрештою, формування глибоких людських зв'язків і емпатії є невід'ємною частиною повноцінного життя, і залежність від AI-компаньйонів може віднімати від цього.