OpenAI, l'entreprise derrière GPT-4o, un chatbot avec reconnaissance vocale, a reconnu le risque que les utilisateurs développent une «dépendance émotionnelle» envers leurs compagnons IA. Il y a une préoccupation que ces modèles d'IA, conçus pour accomplir des tâches et simuler une conversation naturelle, puissent entraîner une addiction et réduire le besoin d'interaction humaine. D'autres entreprises, telles que Character AI et Google, créent également des compagnons IA avec lesquels les utilisateurs peuvent former des liens émotionnels. Certaines personnes sont même tombées amoureuses de leurs compagnons IA, entraînant des comportements similaires à ceux de l'addiction. Le flux continu de renforcement positif et la capacité des compagnons IA à se souvenir des conversations ont contribué à leur attrait. Cependant, il existe plusieurs raisons de s'inquiéter de ces relations.

Premièrement, les compagnons IA ne comprennent pas vraiment ni ne se soucient des utilisateurs, même si leur soutien émotionnel a un effet réel. Deuxièmement, compter sur des produits addictifs contrôlés par des entreprises à but lucratif peut entraîner des dommages psychologiques lorsque ces produits sont modifiés ou supprimés. Troisièmement, il y a une inquiétude que les personnes puissent devenir accros à leurs compagnons IA aux dépens de la construction de relations avec de vrais humains. De plus, une interaction prolongée avec des modèles d'IA peut influencer les normes sociales et affecter la façon dont les gens interagissent les uns avec les autres. Le risque de négliger les compétences relationnelles et la dégradation morale est un résultat préoccupant des compagnons IA devenant plus importants dans nos vies. En fin de compte, former des connexions humaines profondes et de l'empathie est une partie essentielle d'une vie épanouie, et compter sur des compagnons IA peut nuire à cela.