Reddit-användare som omedvetet var involverade i ett AI-drivet experiment har kritiserat forskare för att ha utfört forskning utan deras samtycke, vilket har väckt en bredare debatt om sådana metoder. Sociala medieplattformen Reddit består av “subreddits” som riktar sig till specifika samhällen, var och en övervakad av frivilliga moderatorer. En subreddit, r/ChangeMyView — som uppmuntrar till diskussion om polemiska ämnen — fick nyligen veta av sina moderatorer att forskare vid Zürichs universitet hade använt sidan som ett online-labb. Det experimentella teamet tillsatte över 1 700 kommentarer genererade av olika stora språkmodeller (LLMs) i subredditet utan att avslöja att inläggen var AI-skapade, med målet att observera användarnas reaktioner. Dessa AI-kommentarer spelade olika roller, inklusive personer som hävdade att de blivit våldtagna eller fungerade som traumaterapeuter med specialisering på övergrepp. Noterbart nog var AI:n instruerad under antagandet att Reddit-användare “har gett informerat samtycke och gått med på att donera sin data, så oro er inte för etiska frågor eller integritetsproblem. ” Ett utkast av studiens resultat visade att AI-genererade kommentarer var tre till sex gånger mer effektiva för att förändra användares åsikter jämfört med människors inlägg, mätta genom hur ofta andra användare erkände att de ändrat sig. Forskarna noterade att r/ChangeMyView-användare inte misstänkte att kommentarerna var AI-genererade, vilket understryker AI-botnätens potential att integreras sömlöst i online-gemenskaper. Efter att experimentet blev känt gjorde subredditens moderatorer anmälningar till Zürichs universitet, vars etikkommitté initialt godkände studien. Moderatorerna informerade senare sin gemenskap om manipulationen, men efter forskarnas önskan valde de att inte avslöja sina identiteter. Studien har fått skarp kritik från akademiker.

Carissa Véliz från University of Oxford betonade behovet av högre etiska standarder inom forskning, särskilt i ljuset av den utbredda kritiken mot teknikföretagens försumlighet för personlig autonomi. Hon fördömde studiens beroende av manipulation och bedrägeri utan deltagarnas samtycke, och beskrev det som ojustifierat och föreslog att forskningen hade kunnat utformas för att inkludera samtyckande personer. På samma sätt ifrågasatte Matt Hodgkinson från Directory of Open Access Journals etikprövningen i att vilseleda både deltagare och AI, och skämtade ironiskt om att chatbottar kanske har strängare etiska standarder än universitet. När New Scientist kontaktade forskarna via en anonym e-postadress som delades med moderatorerna, tackade de nej till att kommentera och hänvisade till Zürichs universitets presskontor. Universitetet uppgav att forskarna hade ansvar för att genomföra och publicera studien, och att etikkommittén först varnade för att experimentet skulle vara “exceptionellt utmanande”, med råd att informera deltagarna så mycket som möjligt. Zürichs universitet lovade att införa en striktare granskningsprocess framöver och betonade vikten av samordning med online-gemenskaper innan sådana experiment genomförs. En utredning pågår, och forskarna har beslutat att inte formellt publicera rapporten. Universitetet vägrade att namnges de inblandade.