Qualche anno fa, Reddit si è rinominato “il cuore di internet, ” enfatizzando la sua natura organica e basata sulla comunità, in contrasto con le piattaforme di social media dominate dagli algoritmi. Gli utenti apprezzavano il sito perché era curato dalle persone tramite voti positivi e negativi, riflettendo un’interazione umana autentica. Tuttavia, all’inizio di questa settimana, alcuni membri di un popolare subreddit hanno scoperto che la loro comunità era stata infiltrata da ricercatori sotto copertura che avevano pubblicato commenti generati dall’intelligenza artificiale mascherati da opinioni umane. I Redditori hanno reagito energicamente, definendo l’esperimento “una violazione, ” “una vergogna, ” “un’ingiustizia” e “molto disturbante. ” I ricercatori sono rimasti in silenzio di fronte al malcontento e si sono rifiutati di divulgare le loro identità o la metodologia utilizzata. L’Università di Zurigo, che impiega i ricercatori, ha annunciato un’indagine, e il responsabile legale di Reddit, Ben Lee, ha dichiarato che l’azienda intende rendere responsabili i ricercatori. Anche i ricercatori del mondo internet hanno condannato l’esperimento come non etico. Amy Bruckman, professoressa al Georgia Tech con oltre vent’anni di studio sulle comunità online, ha definito la vicenda “la più grave violazione dell’etica nella ricerca internet che abbia mai visto. ” Sono state sollevate preoccupazioni secondo cui questo sdegno potrebbe compromettere la credibilità degli studiosi che usano metodi etici per studiare come l’IA influisce sul pensiero e sulle relazioni umane. I ricercatori di Zurigo miravano a scoprire se le risposte generate dall’IA avrebbero potuto influenzare le opinioni, pubblicando oltre 1. 000 commenti creati dall’IA nel corso di quattro mesi sul subreddit r/changemyview, noto per dibattiti su temi sociali importanti e questioni triviali. Gli argomenti di discussione variavano dalla aggressività dei pitbull alla crisi abitativa e ai programmi di diversità, equità e inclusione (DEI). I post dell’IA talvolta esprimevano idee controverse — sostenendo che navigare su Reddit sia una perdita di tempo o insinuando che ci siano meriti nelle teorie del complotto su 9/11 — e includevano storie personali inventate, come quella di un consulente traumatologico o di una vittima di stupro statutorio. Gli argomenti personalizzati dell’IA — adattati ai dettagli biografici inferiti dai Redditori, come genere, età e orientamenti politici, usando un altro modello di intelligenza artificiale — si sono rivelati sorprendentemente efficaci. Questi commenti hanno ottenuto più punti nel subreddit rispetto alla maggior parte dei post umani, secondo dati preliminari condivisi in via confidenziale con i moderatori di Reddit. (Si presume che non ci siano altri utenti di IA che abbiano personalizzato i propri post in modo analogo. ) È stato difficile convincere i Redditori che la ricerca segreta fosse giustificata. Dopo l’esperimento, i ricercatori hanno rivelato le loro identità ai moderatori del subreddit e hanno chiesto di “fare un debriefing” ai membri. I moderatori, sorpresi dalla reazione negativa, hanno richiesto che i ricercatori non pubblicassero i risultati e si scusassero, ma questi si sono rifiutati. Dopo oltre un mese di comunicazioni, i moderatori hanno reso pubblici i dettagli dell’esperimento (senza nominare i ricercatori) e hanno espresso disapprovazione. Quando si sono rivolti all’Università di Zurigo, questa ha riconosciuto che il progetto aveva fornito importanti intuizioni e che i rischi erano minimi, come traumi.

L’università ha dichiarato di aver notificato alla commissione etica il progetto il mese scorso, di aver consigliato ai ricercatori di rispettare le regole del subreddit e di pianificare un controllo più stringente in futuro. I ricercatori hanno difeso il loro lavoro su Reddit, affermando che nessun commento promuoveva opinioni dannose e che ogni commento generato dall’IA era stato revisionato da un umano prima di essere pubblicato. Cercare ulteriori commenti dai ricercatori è stato indirizzato all’università. Al centro della loro difesa c’era l’affermazione che l’inganno fosse necessario per la validità dello studio. Sebbene il comitato etico dell’università avesse raccomandato di informare i partecipanti il più possibile, i ricercatori hanno sostenuto che la trasparenza avrebbe compromesso l’esperimento, perché stimare realisticamente il potere persuasivo dell’IA richiede che i soggetti siano ignari, mimando le interazioni reali con attori sconosciuti. Capire le risposte umane alla persuasione dell’IA è urgente e meritevole di ricerca. I primi risultati suggeriscono che gli argomenti dell’IA siano “molto persuasivi in contesti reali, ” superando le aspettative umane. Tuttavia, dopo la reazione negativa, i ricercatori hanno deciso di non pubblicare il loro articolo, lasciando i risultati non verificati. L’idea che agenti artificiali possano influenzare le opinioni è inquietante e fa pensare a possibili abusi. Eppure, la ricerca etica rimane possibile senza pratiche ingannevoli. Christian Tarsney, ricercatore senior dell’Università del Texas ad Austin, ha confermato che studi in laboratorio hanno riscontrato che l’IA è spesso molto persuasiva, talvolta anche portando i credenti nelle teorie del complotto ad abbandonare le proprie convinzioni. Altri studi hanno mostrato che ChatGPT ha creato disinformazioni più convincenti di quelle umane e che le persone fatichino a distinguere i post generati dall’IA da quelli umani. Tra l’altro, uno dei co-autori di uno studio sulla persuasività dell’IA, Giovanni Spitale dell’Università di Zurigo, ha comunicato con uno dei ricercatori di Reddit, che ha chiesto di rimanere anonimo e ha rivelato di aver ricevuto minacce di morte, sottolineando la forte reazione emotiva suscitata. La vasta reazione negativa riflette il senso di tradimento sentito dalla comunità compatta di Reddit, dove la fiducia reciproca è fondamentale. Gli studiosi hanno paragonato questo episodio allo studio sulla contagiosità emotiva di Facebook del 2012, ma hanno rilevato che il caso di Reddit si è sentito molto più personale e invasivo. L’inquietudine aumenta la scoperta che l’IA può manipolare le persone sfruttando informazioni personalizzate, rendendo l’inganno più disturbante rispetto ai precedenti errori dei ricercatori umani. L’analisi di molti commenti dell’IA ha mostrato che sono generalmente ragionevoli e persuasivi, rendendo la questione ancora più inquietante. Senza strumenti migliori per il rilevamento dell’IA, questi bot rischiano di integrarsi senza problemi nelle comunità online — se non lo stanno già facendo — rappresentando una sfida più ampia per il discorso digitale.