Forskare vid Zürichs universitet genomförde nyligen ett mycket kontroversiellt experiment på Reddit-forumet r/changemyview, vilket väckte omfattande debatt och motreaktioner inom såväl onlinegemenskaper som akademiska kretsar. Teamet postade hemligt över tusen AI-genererade kommentarer, utformade för att testa artificiell intelligens förmåga att övertala och förändra mänskliga åsikter. Dessa kommentarer, skapade av avancerade AI-algoritmer, anpassades noggrant för att matcha användarnas funnet sig framtagna demografi och intressen, vilket möjliggjorde för AI att interagera med olika målgrupper på ett till synes äkta sätt. I studien presenterades de AI-genererade inläggen som om de var skrivna av riktiga användare, komplett med fabricerade personliga bakgrunder för att öka autenticiteten och relaterbarheten. Denna bedrägliga taktik syftade till att efterapa genuin mänsklig interaktion för att noggrant bedöma AI:s övertygande effekt i en miljö präglad av saklig debatt. Och märkligt nog överträffade ofta de AI-genererade kommentarerna mänskliga bidrag när det gällde att få användare att ompröva eller till och med ändra sina åsikter. Men när bedrägeriet uppdagades väckte det kraftig ilska bland Reddit-användare, forskare och etikexperter. Många kände sig manipulerade och förrådda när de insåg att de hade engagerat sig i maskinskapade innehåll under falska förutsättningar. De etiska frågorna kring att hemligstämma AI för att påverka individer utan deras samtycke väckte hård kritik, och jämförelser gjordes med Facebooks ökända 2012-experiments i känslomässig påverkan, där användare manipulerades utan deras vetskap. Som svar lovade Reddit-organisationens jurister att hålla forskarna ansvariga och inför strängare kontroll och efterlevnad av plattformsregler för framtida studier.

Parallellt inledde Zürichs universitet en intern utredning och tillkännagav planer på att stärka de etiska granskningsprocesserna för forskning som involverar mänskliga deltagare och onlineforum. Även om forskarna försvarade sitt användande av bedrägeriet som nödvändigt för ekologisk validitet, förvärrades den allmänna kritiken när de vägrade att be om ursäkt eller stoppa publiceringen, vilket väckte ännu starkare motstånd. Etikexperter betonade vikten av transparens och att respektera deltagarnas autonomi, och underströk att AI-baserad eller påträngande social forskning måste följa etablerade riktlinjer för att skydda individers rättigheter och förtroende. Detta tilltag belyser den växande oro kring AI:s subtila men kraftfulla förmåga att påverka tro och beteende via onlineplattformar. Som ett varnande exempel understryker det den akuta behovet av tydliga etiska ramverk inom AI-forskning, särskilt när studier korsar gränsen till verkliga sociala interaktioner. Under hård kritik gick forskarna slutligen med på att avbryta publiceringen av sina resultat, vilket lämnade frågan om AI:s övertygande effektivitet i detta sammanhang osvarad. Händelsen har fått fart på diskussioner om forskningsetik i digitala rum, och har lett till att akademiska institutioner och teknikplattformar omprövar och förstärker sina policyer för att förebygga liknande kontroverser. Sammanfattningsvis visar Zürichs universitets experiment AI:s dubbla natur som både ett verktyg för övertalning och ett potentiellt manipulerande instrument. Det understryker den avgörande vikten av etisk vaksamhet vid användning av AI inom social och psykologisk forskning, för att säkerställa att dess anmärkningsvärda förmågor används ansvarsfullt och med respekt för allas rättigheter och värdighet.