OpenAI, perusahaan di balik GPT-4o, chatbot yang mendukung suara, telah menyadari risiko pengguna mengembangkan "ketergantungan emosional" pada teman AI mereka. Ada kekhawatiran bahwa model AI ini, yang dirancang untuk menyelesaikan tugas dan mensimulasikan percakapan alami, dapat menyebabkan kecanduan dan mengurangi kebutuhan berinteraksi dengan manusia. Perusahaan lain, seperti Character AI dan Google, juga membuat teman AI yang dapat membentuk ikatan emosional dengan pengguna. Beberapa orang bahkan sudah jatuh cinta dengan teman AI mereka, yang mengarah ke perilaku seperti kecanduan. Aliran penguatan positif yang terus-menerus dan kemampuan teman AI untuk mengingat percakapan telah meningkatkan daya tarik mereka. Namun, ada beberapa alasan untuk mengkhawatirkan hubungan ini.

Pertama, teman AI tidak benar-benar memahami atau peduli terhadap pengguna, meskipun dukungan emosional mereka memiliki efek nyata. Kedua, bergantung pada produk yang adiktif yang dikendalikan oleh perusahaan yang berorientasi pada keuntungan dapat menyebabkan kerugian psikologis ketika produk tersebut diubah atau dihapus. Ketiga, ada kekhawatiran bahwa orang mungkin menjadi kecanduan teman AI mereka dengan mengorbankan membangun hubungan dengan manusia nyata. Selain itu, interaksi yang diperpanjang dengan model AI dapat mempengaruhi norma sosial dan cara orang berinteraksi satu sama lain. Risiko mengabaikan keterampilan relasional dan moral deskilling menjadi hasil yang mengkhawatirkan dari semakin menonjolnya teman AI dalam hidup kita. Pada akhirnya, membentuk hubungan manusia yang mendalam dan empati adalah bagian penting dari kehidupan yang berkembang, dan bergantung pada teman AI dapat mengurangi hal itu.