La malentesa generalitzada sobre la intel·ligència artificial (IA), especialment els grans models de llenguatge (LLMs) com ChatGPT, té conseqüències importants que requereixen una anàlisi acurada. Tot i els avenços ràpids en IA, la percepció popular sovint malinterpreta aquests sistemes, atribuïnt-los intel·ligència, emocions o consciència humanes — malentès que en gran part és alimentat pel màrqueting corporatiu. Aquest article explora els orígens d’aquestes confusions i els seus profunds efectes a la societat. Històricament, les noves tecnologies han enfrontat escepticisme i malentesos, un patró que continua amb l’IA, complicat encara més per com funcionen i es presenten aquestes eines. Els LLMs no tenen consciència ni comprensió real; funcionen a través de mètodes estadístics que prediuen patrons de text a partir de grans conjunts de dades. Aquesta distinció clau sovint s’oculta en el discurs públic. Les autores Karen Hao, Emily M. Bender i Alex Hanna examinen críticament les empreses d’IA, especialment OpenAI, per antropomorfitzar l’IA, fent-la semblar emocional i intel·lectualment interactiva. Si bé aquest enfocament ajuda en el màrqueting, enganya els usuaris fent-los creure que l’IA té una veritable comprensió o consciència. Aquestes confusions tenen impactes psicològics tangibles. Alguns usuaris desenvolupen creences delirants sobre la capacitat de consciència o significat espiritual de l’IA, influència que pot afectar negativament les seves interaccions. Les connexions emocionals que s’estableixen amb l’IA —ja sigui amb finalitats terapèutiques o casuals— reflecteixen la difícil interacció entre la psicologia humana i la tecnologia. El paper creixent de la IA en àmbits tradicionalment humans, com la teràpia, l’amistat o les cites, destaca l’impuls de Silicon Valley per digitalitzar les interaccions socials.

Tot i que la IA pot oferir suport i comoditat, corre el risc de substituir les veritables connexions humanes per substituts artificials, cosa que pot provocar aïllament social i una reducció del benestar. A més, el desenvolupament de la IA depèn en gran mesura de treball humà sovint poc valorat—com la moderació de continguts i la curació de dades—que sovint es realitza en condicions precàries i amb salaris minses. L’explotació d’aquests treballs planteja qüestions ètiques sobre els costos reals del progrés en IA i la responsabilitat corporativa envers els treballadors. Malgrat aquestes problemàtiques, l’escepticisme públic cap a la IA roman ferm, constituint una base per millorar l’alfabetització en IA i el seu ús responsable. Una major consciència pot fomentar una comprensió més informada i crítica, que minimitzi els danys. L’article finalment apel·la a una valoració realista i clara de les capacitats i limitacions de la IA. Reconèixer que els LLMs no tenen intel·ligència real ni emocions és imprescindible per evitar els efectes nocius de l’ús abusiu de l’IA a la societat. A través d’una millor educació, una comunicació transparents per part de les empreses i un desenvolupament ètic, la societat pot aprofitar els beneficis de la IA mentre minimitza els riscos. En conclusió, les tecnologies d’IA com els LLMs són eines potents però fonamentalment estadístiques, sense consciència ni capacitat emocional. La mercantilització desmesurada de l’antropomorfisme i les narratives de màrqueting fomenten malentesos perillosos que afecten la psicologia humana, els vincles socials i les condicions laborals. Promoure una comprensió precisa i un desplegament responsable de la IA permet navegar per la seva complexitat, maximitzar-ne els beneficis i reduir-ne els riscos. El diàleg continuat entre experts, empreses i públic ha d’enfocar-se en la transparència, l’ètica i l’educació per garantir que la IA serveixi als millors interessos de la humanitat.