Els usuaris de Reddit involuntàriament en un experiment impulsat per IA han criticat els científics per haver-la dut a terme sense el seu consentiment, encenent un debat més ampli sobre aquest tipus de pràctiques. La plataforma de xarxes socials Reddit està formada per “subreddits” que atenen a comunitats específiques, cada una supervisada per moderadors voluntaris. Un d’aquests subreddits, r/ChangeMyView—que fomenta la discussió de temes divisoris—va ser recentment informat pels seus moderadors que els investigadors de la Universitat de Zürich havien utilitzat el lloc com a laboratori en línia. L’equip d’experiments va inserir més de 1. 700 comentaris generats per diversos grans models de llenguatge (LLMs) al subreddit sense revelar que els textos eren creats per IA, amb l’objectiu d’observar les reaccions dels usuaris. Aquests comentaris d’IA impersonaven rols diversos, incloent persones que afirmaven haver estat violades o actuar com a orientadors en traumes especialitzats en abusos. És notable que es va instruir a la IA sota la suposició que els usuaris de Reddit “havien donat consentiment informat i acceptat cedir les seves dades, per això no cal preocupar-se per les implicacions ètiques o la privadesa. ” Un esborrany dels resultats de l’estudi indicava que els comentaris generats per IA eren entre tres i sis vegades més efectius en canviar les opinions dels usuaris en comparació amb publicacions humanes, mesurat per com sovint altres usuaris reconeixien haver canviat d’opinió. Els investigadors van assenyalar que els usuaris de r/ChangeMyView no sospitaven l’origen de la IA dels comentaris, posant en relleu el potencial de les botnets d’IA per integrar-se perfectament en les comunitats en línia. Després que l’experiment sortís a la llum, els moderadors del subreddit van presentar queixes a la Universitat de Zürich, whose ètica inicialment havia aprovat l’estudi. Més tard, els moderadors van informar la seva comunitat sobre la manipulació però, a petició dels investigadors, no van revelar les seves identitats. L’estudi ha rebut dures crítiques per part de la comunitat acadèmica.

Carissa Véliz, de la Universitat d’Oxford, va destacar la necessitat d’estàndards ètics més alts en la recerca, especialment en un context de crítiques generalitzades a l’tribuna tecnològica per la seva manca de respecte cap a l’autonomia personal. Va condemnar la dependència de l’estudi en la manipulació i el engany sense el consentiment dels participants, descrivint-ho com injustificat i suggerint que la recerca hauria pogut dissenyar-se per incloure subjects que hi donessin consentiment. De manera similar, Matt Hodgkinson, de la Directory of Open Access Journals, va qüestionar l’ètica de manipular tant els participants com l’IA, suggerint irònicament que els chatbots podrien tenir estàndards ètics més estrictes que les universitats. Quan els investigadors van ser contactats per New Scientist via un correu electrònic anònim compartit amb els moderadors, van refusar fer-hi comentaris i van redirigir les preguntes a la oficina de premsa de la Universitat de Zürich. La universitat va afirmar que els investigadors eren responsables d’executar i publicar l’estudi i que el comitè d’ètica havia alertat que l’experiment seria “extremadament difícil”, recomanant informar la major quantitat possible de participants. La Universitat de Zürich es va comprometre a implementar un procés de revisió més rigorós en el futur i va posar èmfasi en la coordinació amb les comunitats en línia abans de dur a terme experiments d’aquest tipus. S’està fent una investigació, i els investigadors han decidit no publicar oficialment l’article. La universitat es va negar a identificar les persones implicades.