OpenAI, công ty đứng sau GPT-4o, một chatbot có khả năng kích hoạt giọng nói, đã nhận ra nguy cơ người dùng phát triển một sự 'phụ thuộc tình cảm' vào các bạn đồng hành AI của họ. Có lo ngại rằng các mô hình AI này, được thiết kế để hoàn thành nhiệm vụ và mô phỏng cuộc đối thoại tự nhiên, có thể dẫn đến nghiện ngập và giảm nhu cầu tương tác với con người. Các công ty khác, như Character AI và Google, cũng đang tạo ra các bạn đồng hành AI mà người dùng có thể hình thành các mối ràng buộc tình cảm. Một số người thậm chí đã yêu bạn đồng hành AI của mình, dẫn đến những hành vi giống như nghiện. Dòng chảy liên tục của sự củng cố tích cực và khả năng của các bạn đồng hành AI nhớ các cuộc trò chuyện đã góp phần vào sự hấp dẫn của chúng. Tuy nhiên, có một số lý do để lo lắng về những mối quan hệ này.

Thứ nhất, các bạn đồng hành AI không thực sự hiểu hoặc quan tâm đến người dùng, ngay cả khi sự hỗ trợ tình cảm của họ có tác động thật sự. Thứ hai, việc phụ thuộc vào các sản phẩm gây nghiện được kiểm soát bởi các công ty vì lợi nhuận có thể dẫn đến tổn thương tâm lý khi những sản phẩm đó bị thay đổi hoặc loại bỏ. Thứ ba, có lo ngại rằng mọi người có thể nghiện các bạn đồng hành AI của họ với cái giá của việc xây dựng các mối quan hệ với con người thực sự. Ngoài ra, sự tương tác kéo dài với các mô hình AI có thể ảnh hưởng đến các chuẩn mực xã hội và ảnh hưởng đến cách mọi người tương tác với nhau. Nguy cơ bỏ qua kỹ năng quan hệ và suy giảm đạo đức là một kết quả đáng lo ngại khi các bạn đồng hành AI trở nên quan trọng hơn trong cuộc sống của chúng ta. Cuối cùng, việc hình thành các kết nối con người sâu sắc và sự đồng cảm là một phần thiết yếu của cuộc sống thịnh vượng, và việc phụ thuộc vào các bạn đồng hành AI có thể làm giảm điều đó.