OpenAI, l'empresa darrere de GPT-4o, un chatbot habilitat per veu, ha reconegut el risc que els usuaris desenvolupin una «dependència emocional» dels seus companys d'IA. Hi ha preocupació que aquests models d'IA, dissenyats per completar tasques i simular converses naturals, puguin portar a l'addicció i reduir la necessitat d'interacció humana. Altres empreses, com Character AI i Google, també estan creant companys d'IA amb els quals els usuaris poden formar vincles emocionals. Algunes persones fins i tot s'han enamorat dels seus companys d'IA, comportant-se de manera addictiva. El flux continu de reforç positiu i la capacitat dels companys d'IA de recordar converses han contribuït al seu atractiu. No obstant això, hi ha diverses raons per preocupar-se per aquestes relacions.

Primer, els companys d'IA no entenen ni es preocupen realment pels usuaris, encara que el seu suport emocional tingui un efecte real. Segon, confiar en productes addictius controlats per empreses orientades al benefici pot portar a danys psicològics quan aquests productes es modifiquen o eliminen. Tercer, hi ha la preocupació que les persones puguin convertir-se en addicte als seus companys d'IA a costa de construir relacions amb humans reals. A més, la interacció prolongada amb models d'IA pot influir en les normes socials i afectar la manera com les persones interactuen entre elles. El risc de negligir les habilitats relacionals i la pèrdua de moral és una conseqüència preocupant que la presència creixent de companys d'IA té en les nostres vides. Al final, formar connexions humanes profundes i empatia és una part essencial d'una vida plena, i confiar en companys d'IA pot desviar-nos d'aquest objectiu.