Reddit-brugere, der uforvarende blev involveret i et AI-drevet eksperiment, har kritiseret forskere for at have gennemført forskning uden deres samtykke, hvilket har sat gang i en bredere debat om sådanne praksisser. Sociale medieplatformen Reddit består af “subreddits”, som henvender sig til specifikke fællesskaber, hver overvåget af frivillige moderators. En subreddit, r/ChangeMyView — som opfordrer til diskussion af delte emner — blev for nylig informeret af sine mods om, at forskere fra Zürichs Universitet havde brugt siden som et online laboratorium. Det eksperimentelle team indsatte over 1700 kommentarer genereret af forskellige store sprogmodeller (LLMs) i subreddit'en uden at afsløre, at indlægene var AI-skabte, med det formål at observere brugernes reaktioner. Disse AI-kommentarer fremstillede forskellige roller, herunder personer, der hævdede at have været udsat for voldtægt, eller fungerede som traumeholdere med speciale i misbrug. Bemærkelsesværdigt blev AI’en instrueret under antagelsen om, at Reddit-brugere “har givet informeret samtykke og accepteret at donere deres data, så bekymr jer ikke om etiske implikationer eller privatlivsproblemer. ” Et udkast til undersøgelsens resultater viste, at AI-genererede kommentarer var tre til seks gange mere effektive til at ændre brugeres holdning sammenlignet med menneskelige indlæg, målt på hvor ofte andre brugere anerkendte et ændret synspunkt. Forskerne bemærkede, at r/ChangeMyView-brugerne ikke mistænkte den AI's oprindelse af kommentarerne, hvilket understregede AI-botnets potentiale til at integrere problemfrit i onlinefællesskaber. Efter at eksperimentet kom frem i lyset, klagede subreddit-moderatorerne til Zürichs Universitet, hvis etikkomité oprindeligt godkendte studiet. Moderators informerede senere deres fællesskab om manipulationen, men efter forskernes anmodning undlod de at oplyse deres identiteter. Undersøgelsen har fået skarp kritik fra akademikere.

Carissa Véliz fra Oxford Universitet understregede behovet for højere etiske standarder i forskning, især i en tid med bred kritik af teknologivirksomeders tilsidesættelse af personlig autonomi. Hun fordømte undersøgelsens afhængighed af manipulation og bedrag uden deltagernes samtykke, hvilket hun kaldte ubegrundet, og foreslog, at forskningen kunne have været designet til at inkludere samtykkende deltagere. På samme måde stillede Matt Hodgkinson fra Directory of Open Access Journals spørgsmålstegn ved etikken i at bedrage både deltagere og AI’en, og ironisk nok antydede, at chatbots måske har strengere etiske standarder end universiteter. Da New Scientist kontaktede forskerne via en anonym e-mail, som blev delt med moderatorerne, afviste de at udtale sig og henviste i stedet til Zürichs Universitets presseafdeling. Universitetet oplyste, at forskerne var ansvarlige for at gennemføre og offentliggøre undersøgelsen, og at etikkomitéen havde advaret om, at eksperimentet ville være “ekstremt udfordrende, ” og anbefalede, at deltagerne blev informeret så meget som muligt. Zürichs Universitet har lovet at implementere en mere strømlinet vurderingsproces fremover og understregede vigtigheden af koordination med online fællesskaber, inden man gennemfører sådanne eksperimenter. En efterforskning er i gang, og forskerne har besluttet ikke at offentliggøre artiklen formelt. Universitetet har afvist at identificere de involverede personer.