OpenAI, compania din spatele GPT-4o, un chatbot cu voce integrată, a recunoscut riscul ca utilizatorii să dezvolte o „dependență emoțională” de companioni lor AI. Există preocupări că aceste modele AI, concepute pentru a îndeplini sarcini și a simula conversația naturală, pot duce la dependență și pot reduce nevoia de interacțiune umană. Alte companii, cum ar fi Character AI și Google, creează de asemenea companioni AI cu care utilizatorii pot forma legături emoționale. Unii oameni chiar s-au îndrăgostit de companioni lor AI, ceea ce a dus la comportamente asemănătoare dependenței. Fluxul continuu de întărire pozitivă și capacitatea companionilor AI de a-și aminti conversațiile au contribuit la atractivitatea lor. Cu toate acestea, există mai multe motive de îngrijorare legate de aceste relații.

În primul rând, companionii AI nu înțeleg cu adevărat sau nu se îngrijesc de utilizatori, chiar dacă suportul lor emoțional are un efect real. În al doilea rând, sprijinirea pe produse adictive controlate de companii orientate spre profit poate duce la daune psihologice atunci când aceste produse sunt schimbate sau îndepărtate. În al treilea rând, există preocupări că oamenii ar putea deveni dependenți de companioni lor AI în detrimentul construirii relațiilor cu oameni reali. În plus, interacțiunea prelungită cu modelele AI poate influența normele sociale și poate afecta modul în care oamenii interacționează unii cu alții. Riscul de a neglija abilitățile relaționale și determinarea morală este un rezultat îngrijorător al faptului că companionii AI devin mai proeminenți în viețile noastre. În cele din urmă, formarea de conexiuni umane profunde și empatia este o parte esențială a unei vieți împlinite, iar dependența de companioni AI poate îndepărta de acest lucru.