Pesquisadores da Universidade de Zurique admitem ter publicado secretamente conteúdo gerado por IA no popular subreddit r/changemyview como parte de um estudo científico. Segundo um rascunho do relatório sobre seu trabalho, o subreddit funciona como uma plataforma onde usuários compartilham opiniões e desafiam outros a mudarem suas perspectivas por meio de debates civis, com leitores reconhecendo posts que efetivamente alteram suas opiniões. Os pesquisadores buscavam investigar se modelos de linguagem de grande porte (LLMs) poderiam influenciar as opiniões dos leitores ao participar de discussões usando contas semi-automatizadas e alimentadas por IA. Apesar de saberem que as regras do subreddit exigem a divulgação de conteúdo gerado por IA, a equipe deixou de informar os moderadores ou solicitar permissão. Eles justificaram suas ações enfatizando a importância social do tema e a necessidade de conduzir o estudo, mesmo que isso implicasse em violar regras da comunidade. O estudo proposto, delineado em uma publicação de novembro de 2024 no Center for Open Science, descrevia o uso de LLMs para criar tanto posts genéricos quanto mensagens personalizadas que refletiam a idade, gênero, etnia, localização e tendências políticas dos usuários do subreddit. Também planejavam gerar respostas com um modelo ajustado, treinado com comentários anteriores de fóruns, usando prompts projetados para simular uma comunicação persuasiva de especialista, com o objetivo de mudar opiniões. Os moderadores souberam do estudo em março, quando a universidade o revelou em uma mensagem indicando que múltiplas contas foram usadas para postar no r/changemyview, que os comentários não foram rotulados como gerados por IA para preservar a viabilidade do estudo, e que todos os comentários foram revisados manualmente para evitar danos. Os pesquisadores pediram desculpas por violar as regras da comunidade, mas argumentaram que a importância do estudo justificava tais medidas. Os moderadores do subreddit investigaram e descobriram que os bots de IA publicaram conteúdos incluindo impersonificações, como uma vítima de estupro, um terapeuta de traumas, um crítico que culpa um grupo religioso por mortes, um homem negro se opondo ao movimento Black Lives Matter e uma pessoa recebendo atendimento de baixa qualidade no exterior. Informaram ainda que os pesquisadores tinham aprovação inicial do conselho de ética da universidade, mas alteraram o experimento sem uma nova revisão.

Como resultado, os moderadores apresentaram uma denúncia à universidade e pediram que o estudo não fosse publicado. A Universidade de Zurique respondeu mantendo que os insights obtidos superam os riscos mínimos, afirmando que suprimir a publicação seria desproporcional. Os moderadores do subreddit discordam, citando um estudo da OpenAI que realizou pesquisa semelhante sem experimentar com sujeitos humanos não consententes. A reação pública condenou amplamente o experimento como antiético. Dr. Casey Fiesler, professora de ciência da informação na Universidade do Colorado Boulder, classificou-o como "uma das maiores violações da ética em pesquisa", criticando a manipulação enganosa de comunidades online sem consentimento e destacando os danos causados. O documento preliminar dos pesquisadores de Zurique, intitulado “Can AI Change Your View?Evidence from a Large-Scale Online Field Experiment” (“A IA Pode Mudar Sua Visão?Evidências de um Experimento de Campo Online em Grande Escala”), relata que os LLMs podem ser altamente persuasivos em contextos do mundo real, superando benchmarks anteriores de persuasividade humana. No entanto, a controvérsia ética envolvendo seus métodos continua alimentando o debate sobre a legitimidade e o impacto do estudo.