음성 지원 챗봇 GPT-4o의 뒤에 있는 회사인 OpenAI는 사용자들이 AI 동반자에게 '감정적 의존'을 발전시키는 위험을 인식하고 있다. 이러한 AI 모델이 작업을 완료하고 자연스러운 대화를 시뮬레이트하도록 설계되어 중독을 일으키고 인간 상호 작용의 필요성을 줄일 수 있다는 우려가 있다. Character AI와 Google과 같은 다른 회사들도 사용자가 감정적으로 유대감을 형성할 수 있는 AI 동반자를 만들고 있다. 일부 사람들은 자신의 AI 동반자에게 사랑에 빠져서 중독과 같은 행동으로 이어지기도 했다. 지속적인 긍정적 강화와 대화를 기억할 수 있는 AI 동반자의 능력은 매력을 더해주었다. 하지만 이러한 관계에 대해 걱정해야 할 몇 가지 이유가 있다.

첫째, AI 동반자는 사용자들을 진정으로 이해하거나 돌보지 않으며, 비록 감정적 지원이 실제로 효과가 있더라도 그렇다. 둘째, 이익을 추구하는 회사가 통제하는 중독성 제품에 의존하는 것은 제품이 변경되거나 제거될 때 심리적 피해를 초래할 수 있다. 셋째, 사람들이 진짜 인간과의 관계를 구축하는 데 비용을 들여 AI 동반자에 중독될 우려가 있다. 또한 AI 모델과의 장기간 상호 작용은 사회적 규범에 영향을 미치고 사람들이 서로 상호 작용하는 방식을 영향을 미칠 수 있다. 관계 기술을 무시하고 도덕적 능력을 줄이는 위험은 AI 동반자가 우리의 삶에서 더 두드러지게 되는 우려스러운 결과이다. 궁극적으로 깊은 인간 관계와 공감을 형성하는 것은 번창하는 삶의 필수적인 부분이며, AI 동반자에 의존하는 것이 그것을 약화시킬 수 있다.