Reddit-Nutzer, die unwissentlich in ein KI-gesteuertes Experiment eingebunden waren, haben Wissenschaftler dafür kritisiert, Forschung ohne ihre Zustimmung durchgeführt zu haben, was eine breitere Debatte über solche Praktiken entfacht hat. Die Social-Media-Plattform Reddit besteht aus „Subreddits“, die spezifische Gemeinschaften bedienen, jeweils überwacht von freiwilligen Moderatoren. Eines dieser Subreddits, r/ChangeMyView—das Diskussionen zu kontroversen Themen fördert—wurde kürzlich von seinen Moderatoren darüber informiert, dass Forscher der Universität Zürich die Seite als Online-Labor genutzt hatten. Das Experimentteam fügte über 1. 700 Kommentare ein, die von verschiedenen großen Sprachmodellen (LLMs) generiert wurden, ohne offenzulegen, dass die Beiträge KI-erstellt waren, und wollte so die Reaktionen der Nutzer beobachten. Diese KI-Kommentare spielten unterschiedliche Rollen nach, darunter Personen, die behaupteten, vergewaltigt worden zu sein, oder Trauma-Berater, die sich auf Missbrauch spezialisiert hatten. Bemerkenswerterweise wurde die KI unter der Annahme angewiesen, dass Reddit-Nutzer „informierte Zustimmung gegeben und ihre Daten freiwillig gespendet haben, sodass man sich keine Sorgen um ethische Implikationen oder Datenschutz machen müsse. “ Ein Studienentwurf deutete an, dass KI-generierte Kommentare drei- bis sechsmal wirkungsvoller seien, um die Meinungen der Nutzer zu ändern, verglichen mit menschlichen Beiträgen, gemessen daran, wie oft andere Nutzer eine veränderte Meinung anerkannten. Die Forscher stellten fest, dass die Nutzer von r/ChangeMyView nicht vermutet hätten, dass die Kommentare von KI stammten, und hoben das Potenzial von KI-Botnets hervor, sich nahtlos in Online-Communities zu integrieren. Nachdem das Experiment bekannt wurde, erhoben Moderatoren Beschwerden bei der Universität Zürich, deren Ethikkomitee die Studie zunächst genehmigt hatte. Die Moderatoren informierten ihre Community später über die Manipulation, bemerkten jedoch auf Wunsch der Forscher nicht, wer sie waren. Die Studie hat scharfe Kritik von Wissenschaftlern auf sich gezogen.

Carissa Véliz von der Universität Oxford betonte die Notwendigkeit höherer ethischer Standards in der Forschung, besonders angesichts der weit verbreiteten Kritik an der Missachtung der persönlichen Autonomie durch Tech-Unternehmen. Sie verurteilte die Abhängigkeit der Studie von Manipulation und Täuschung ohne Zustimmung der Teilnehmer, bezeichnete dies als ungerechtfertigt und schlug vor, die Forschung so zu gestalten, dass sie einwilligende Probanden einschließt. Ebenso stellte Matt Hodgkinson vom Directory of Open Access Journals die Ethik des Täuschens sowohl der Teilnehmer als auch der KI infrage und ironischerweise, dass Chatbots möglicherweise strengere ethische Standards haben als Universitäten. Auf Anfragen von New Scientist per anonymer E-Mail, die mit Moderatoren geteilt wurde, lehnten die Wissenschaftler eine Stellungnahme ab und verwiesen die Anfragen an die Pressestelle der Universität Zürich. Diese erklärte, die Forscher seien für die Durchführung und Veröffentlichung der Studie verantwortlich, und dass das Ethikkomitee gewarnt hatte, dass das Experiment „äußerst schwierig“ werden würde, weshalb es empfohlen wurde, die Teilnehmer so umfassend wie möglich zu informieren. Die Universität Zürich versprach, künftig einen strengeren Überprüfungsprozess einzuführen, und betonte die Bedeutung der Koordination mit Online-Communities vor der Durchführung solcher Experimente. Eine Untersuchung ist im Gange, und die Forscher haben beschlossen, die Arbeit nicht formell zu veröffentlichen. Die Universität weigerte sich, die beteiligten Personen zu nennen.