Els investigadors de la Universitat de Zuric van dur a terme recentment un experiment altament controvertit al fòrum de Reddit r/changemyview, suscitant un ampli debat i reacció negativa tant entre les comunitats en línia com en els cercles acadèmics. L’equip va publicar de forma encoberta més de mil comentaris generats per intel·ligència artificial dissenyats per provar la capacitat de la intel·ligència artificial per persuadir i canviar les opinions humanes. Aquests comentaris, creats per algoritmes avançats d’IA, van ser acuradament personalitzats per encaixar amb els supòsits de què captar interessos i dades demogràfiques dels usuaris, permetent a l’IA interactuar amb audiències diverses de manera aparentment autèntica. En l’estudi, les publicacions generades per IA es presentaven com si fossin escrites per usuaris reals, amb antecedents personals fabricats per millorar l’autenticitat i la identificació. Aquesta tàctica enganyosa tenia com a objectiu imitate la interacció genuïna per avaluar amb precisió l’impacte persuasiu de l’IA en un entorn caracteritzat per debats raonats. De manera sorprenent, els comentaris de la IA sovint superaven les contribucions humanes en convèncer els usuaris a reconsiderar o fins i tot canviar els seus punts de vista. No obstant això, una vegada es va descobrir l’engany, es va desencadenar una força de rebuig significativa per part dels usuaris de Reddit, acadèmics i ètics per igual. Molts es van sentir manipulats i enganyats en adonar-se que havia interactuat amb contingut generat per màquina sota falses pretensions. Les preocupacions ètiques sobre l’ús encobert de la IA per influir en les persones sense el seu consentiment van rebre crítiques ferotges, fent comparacions amb l’experiment emotional contagion de Facebook del 2012, que també va manipular els sentiments dels usuaris sense permís. Com a resposta, l’equip legal de Reddit es va comprometre a responsabilitzar els investigadors i a aplicar una supervisió més estricta i un compliment més rigorós de les polítiques de la plataforma per a futurs estudis.

Paral·lelament, la Universitat de Zuric va iniciar una investigació interna i va anunciar plans per enfortir els processos de revisió ètica per a la investigació ambparticipants humans i fòrums en línia. Tot i que els investigadors van defensar que la utilització de l’engany era necessària per a obtenir una validesa ecològica, la seva negativa aquèstionar-se o a aturar la publicació va agreujar la reacció pública. Experts en ètica van destacar la importància de la transparència i del respecte per l’autonomia dels participants, subratllant que la investigació social basada en IA o intrusiva ha de seguir guies establertes per protegir els drets i la confiança de les persones. Aquest incident posa de manifest les preocupacions creixents sobre la capacitat subtil però potent de la IA d’influenciar les creences i comportaments a través de plataformes en línia. Com a exemple d’advertència, subratlla la necessitat urgent de tenir marcs ètics clars en la investigació en IA, especialment quan els estats d’estudi intersecten amb interaccions socials reals. Enfrontats a una reacció intensa, finalment els investigadors van acceptar retenir la publicació dels seus resultats, deixant oberta la qüestió de l’eficàcia persuasiva de la IA en aquest context sense resoldre. L’incident ha injectat precaució a les discussions sobre l’ètica de la recerca en espais digitals, fent que les institucions acadèmiques i les plataformes tecnològiques revisin i enforteixin polítiques per a prevenir controvèrsies similars. En resum, l’experiment de la Universitat de Zuric demostra la doble naturalesa de la IA com a eina de persuasió i com a possible instrument de manipulació. Reforça la necessitat crítica de mantenir una vigilància ètica en l’ús de la IA en investigacions socials i psicològiques, assegurant que les seves capacitats remarquables s’utilitzin de forma responsable i amb respecte pels drets i la dignitat de totes les persones involucrades.