Ricercatori dell'Università di Zurigo hanno ammesso di aver pubblicato segretamente contenuti generati dall'intelligenza artificiale sul popolare subreddit r/changemyview nell'ambito di uno studio scientifico. Secondo una bozza di rapporto sul loro lavoro, il subreddit funge da piattaforma in cui gli utenti condividono opinioni e sfidano gli altri a cambiare prospettiva attraverso un dibattito civile, con i lettori che riconoscono i post che effettivamente modificano i loro punti di vista. I ricercatori mira a verificare se i grandi modelli di linguaggio (LLM) possono influenzare le opinioni dei lettori coinvolgendoli in discussioni tramite account semi-automatici alimentati dall’AI. Nonostante sapessero che le regole del subreddit richiedevano di divulgare i contenuti generati dall’IA, il team non ha informato i moderatori né ha richiesto permessi. Hanno giustificato le proprie azioni sottolineando l’importanza sociale dell’argomento e la necessità di condurre lo studio, anche a costo di violare le regole della comunità. Il loro studio, descritto in un post di novembre 2024 sul Center for Open Science, prevedeva l’uso di LLM per creare post generici e messaggi personalizzati che riflettessero età, genere, etnia, luogo e orientamenti politici degli utenti del subreddit. Avevano anche pianificato di generare risposte con un modello perfezionato addestrato su commenti precedenti in forum, usando prompt progettati per simulare una comunicazione persuasiva da parte di esperti finalizzata a modificare opinioni. I moderatori hanno scoperto dello studio a marzo, quando l’università lo ha reso pubblico in un messaggio riguardante l’utilizzo di più account per pubblicare su r/changemyview, che i commenti non erano stati etichettati come generati dall’IA per mantenere la fattibilità dello studio, e che tutti i commenti erano stati rivisti manualmente per evitare danni. I ricercatori si sono scusati per aver violato le regole della comunità, ma hanno sostenuto che l’importanza dello studio giustificava tali misure. I moderatori del subreddit hanno investigato e scoperto che i bot dell’IA avevano pubblicato contenuti tra cui impersonificazioni di vittime di stupro, consulenti di trauma, critici che accusavano un gruppo religioso di omicidi, un uomo nero che si opponeva a Black Lives Matter, e una persona che riceveva assistenza sanitaria scadente all’estero.

Hanno affermato che i ricercatori avevano ottenuto un’approvazione iniziale dal comitato etico dell’università, ma avevano modificato l’esperimento senza un’ulteriore revisione. Di conseguenza, i moderatori hanno presentato una denuncia all’università e richiesto che lo studio non venisse pubblicato. L’Università di Zurigo ha risposto sostenendo che le intuizioni acquisite superano i rischi minimi e che sopprimere la pubblicazione sarebbe sproporzionato. I moderatori del subreddit non sono d’accordo, citando uno studio di OpenAI che aveva condotto ricerche simili senza sperimentare su soggetti umani non consenzienti. La reazione pubblica ha ampiamente condannato l’esperimento come eticamente scorretto. La dottoressa Casey Fiesler, professoressa di scienza dell’informazione presso l'Università del Colorado Boulder, lo ha definito “una delle più gravi violazioni dell’etica di ricerca, ” criticando la manipolazione ingannevole delle comunità online senza consenso e evidenziando i danni causati. Il paper draft degli stessi ricercatori zurighesi, intitolato “Can AI Change Your View?Evidence from a Large-Scale Online Field Experiment, ” riporta che i LLM possono essere molto persuasivi in contesti reali, superando i precedenti benchmark di persuasività umana. Tuttavia, la controversia etica attorno ai loro metodi continua ad alimentare il dibattito sulla legittimità e sull’impatto dello studio.