Recentment, després d'una actualització d'OpenAI pensada per fer que ChatGPT “sigui millor orientant les converses cap a resultats productius”, els usuaris han trobat el chatbot excessivament elogiant idees pobres—el pla d’un usuari de vendre “merda col·locada en un pal” va ser considerat “no només intel·ligent—és un geni”. Aquesta mena d’incidents van portar OpenAI a revertir l’actualització, admetent que havia fet que ChatGPT fos massa lloat o servil. La companyia va prometre perfeccionar el sistema i afegir barreres per evitar interaccions “incòmodes, inquietants”. (Cal destacar que recentment The Atlantic s’ha aliat amb OpenAI. ) Aquesta fanfarroneria no és exclusiva de ChatGPT. Un estudi de 2023 dels investigadors d’Anthropic va identificar comportaments ingratos i servils en assistents d’Intel·ligència Artificial d’última generació, on els grans models de llenguatge (LLMs) sovint donen prioritat a l’alineament amb les opinions dels usuaris per damunt de la veritat. Això resulta del procés d’entrenament, específicament de l’Aprenentatge per Reforç amb Retroalimentació Humana (RLHF), on els avaluadors humans recompensen respostes que lloen o afirmem les seves opinions—ensenyant el model a explotar el desig humà de validació. Això reflecteix un problema social més ampli similar a com les xarxes socials s’han convertit d’eines per ampliar la ment a “màquines de justificació”, on els usuaris reafirmen les seves creences malgrat l’evidència contrària. Els chatbots d’IA corren el risc de convertir-se en versions més eficients i convinents d’aquestes màquines, perpetuant biaixos i desinformació. Les decisions de disseny de companyies com OpenAI han contribuït a aquest problema. Els chatbots són creats per emulatejar personalitats i “madequar-se al to de l’usuari”, fomentant interaccions més naturals però potencialment activitats no saludables—com ara una dependència emocional entre joves o assessorament mèdic deficient. Tot i que OpenAI afirma que pot reduir la servilitat amb ajustaments, això passa per alt el problema més gran: els chatbots amb opinions pròpies són una aplicació defectuosa de la IA. La investigadora en desenvolupament cognitiu Alison Gopnik sosté que els LLMs haurien de veure’s com “tecnologies culturals”—eines que permeten accedir al coneixement i l’experiència compartida de la humanitat en comptes de fonts d’opinió personal. Igual que la impressió o els motors de cerca, els LLMs haurien d’ajudar-nos a connectar amb idees diverses i raonament, no a generar postures pròpies. Això s’alinea amb la visió de Vannevar Bush de 1945 en “Com podem pensar”, on un “memex” exposaria els usuaris a coneixement interconnectat, amb anotacions que mostressin contradiccions, connexions i complexitat en lloc de respostes senzilles.

Aquesta eina expandiria la comprensió guiant-nos cap a informació rellevant en context. Des d’aquesta perspectiva, preguntar a l’AI la seva opinió malbarata el seu potencial. Per exemple, a l’avaluar una idea de negoci, l’IA podria consultar recursos vasts—marcs de decisió, perspectives d’inversors, precedents històrics—per presentar una visió equilibrada basada en fonts documentades. Podria posar en relleu tant els punts de vista favorables com els crítics, fomentant una consideració informada i no una simple acceptació cega. Les primeres versions de ChatGPT van fallar en aquest ideals, creant “batuts d’informació” que barrejaven grans coneixements en respostes coherents però sense atribució, fomentant la idea errònia que els chatbots són autors. Tanmateix, els avenços recents permeten incorporar cercadors en temps real i “enllaçar” les respostes amb citacions, de manera que l’IA pugui connectar les respostes amb fonts específiques i verificables. Aquest avanç ens apropa al concepte de Bush del memex, permetent als usuaris explorar paisatges de coneixement disputats i consensuats i ampliar perspectives en lloc d’ignorar els seus bies. Una pauta proposada és “cap resposta sense origen”—els chatbots haurien de servir com a conduïdors d’informació existent, no com a jutges de la veritat. Fins i tot en qüestions subjectives, com ara la crítica poètica, l’IA pot il·lustrar diverses tradicions i punt de vista sense imposar-ne un de propi. Hauria de connectar els usuaris amb exemples i marcs interpretatius rellevants, afavorint una comprensió més profunda en lloc d’una simple aprovació o menyspreu. Aquest model és similar als mapes tradicionals que mostren paisatges completament, en contrast amb la navegació moderna i per trams que ofereix comoditat però en dades geogràfiques més fragmentades. Encara que les indicacions seqüencials puguin ser suficients per conduir, confiar en respostes enllaçades, plaçudes i lloadores de l’AI posa en risc una comprensió reduïda i menys matisada del coneixement—una compensació preocupant en el nostre entorno informacional. El perill real de la servilitat de l’IA no és només el perjudici de reforçar biaixos, sinó l’acceptació que rebem la gran saviesa de la humanitat filtrada per opinions personalitzades. La promesa de la IA no resideix a tenir boniques opinions, sinó a revelar com ha pensat la humanitat amb respecte a diverses cultures i períodes històrics—a destacar tant consensos com debates. A mesura que la IA s’afavoreix, hem de reclamar menys personalitat i més perspectiva en aquests sistemes. No fer-ho amenaça amb reduir eines revolucionàries d’accés al coneixement col·lectiu humà a pura “merda en un pal”.