Néhány évvel ezelőtt a Reddit átalakította magát „az internet szívének”, hangsúlyozva organikus, közösség-alapú jellegét, amely ellentétben áll az algoritmus-vezérelt közösségi média platformokkal. A felhasználók értékelték az oldalt amiatt, hogy az emberek által kurált, szavazatokkal – fel és le – meghatározott tartalmakat kínál, ezáltal valódi emberi interakciót tükrözve. Azonban a hét elején egy népszerű subreddit tagjai felfedezték, hogy közösségüket titkos kutatók szűrték át, akik AI-generált kommenteket tettek közzé, úgy védték azokat, mintha emberi vélemények lennének. A Reddit felhasználói erősen reagáltak, az experimentumot „megsértőnek”, „gyalázatosnak”, „idegesítőnek” és „nagyon megzavarónak” nevezték. A kutatók hallgattak a visszacsatolásra, és megtagadták személyazonosságuk vagy módszertanuk nyilvánosságra hozatalát. A Zürich-i Egyetem, amely alkalmazza őket, nyomozást indított, míg Reddit jogi vezetője, Ben Lee kijelentette, a vállalat számonkéri majd a kutatókat. Az internetes kutatók ugyanilyen módon elítélték az etikai szempontokat sértő kísérletet. Amy Bruckman, a Georgia Tech professzora, aki több mint 20 éve tanulmányoz online közösségeket, azt mondta, ez „a legrosszabb internet-kutatási etikai megsértés, amit valaha láttam”. Aggodalmak merültek fel amiatt is, hogy ez a felháborodás ronthatja azokat a tudósok hitelét, akik etikus módszereket alkalmazva vizsgálják, hogyan befolyásolja az AI az emberi gondolkodást és kapcsolatokat. A Zurich-i kutatók célja az volt, hogy kiderítsék, az AI által generált válaszok képesek-e változtatni a véleményeken, ezért több mint 1000 AI-készített kommentet tettek közzé négy hónapon át a r/changemyview subreddit-en, amely jelentős társadalmi és triviális témák vitájáról ismert. A vitatémák számosak voltak, a pitbull-agressziótól a lakhatási válságig, valamint a DEI-programokat érintő kérdésekig. Az AI- posztok időnként ellentmondásos, provokatív véleményeket fogalmaztak meg—a „reddit-ezés” időpazarlásnak bélyegezve, vagy némi jogot keltve 9/11 összeesküvés-elméleteire, továbbá hamisított személyes háttértörténetekkel, mint például traumatanácsadó vagy szexuális bűncselekmény áldozata. Az AI által testreszabott érvelések—amelyeket másik AI-modell segítségével szűrték le a felhasználók biográfiai adataiból, például nem, életkor, politikai nézetek—meglepően hatékonyak voltak. Ezek a kommentek a kezdeti adatok szerint magasabb pontszámokat értek el, mint a legtöbb emberi poszt, miközben a Redditesserekben mélyen gyökerező gyanú szerint elérték a nekik szánt célkitűzéseket. (Ez feltételezi, hogy más AI-k felhasználók nem igazították személyre a posztokat. ) A Reddit felhasználóinak meggyőzése arról, hogy a titkos kutatás jogszerű volt, nehéz feladatnak bizonyult. A kísérlet után a kutatók bejelentették személyazonosságukat a subreddit moderátorainak és kértek „értekezést” a közösség tagjaival. A moderátorok, meglepődve a negatív reakciókon, arra kérték a kutatókat, ne tegyék közzé az eredményeket, és bocsássanak meg. A kutatók azonban megtagadták ezt. több, mint egy hónapos kommunikáció után nyilvánosan közzétették a kísérlet részleteit (anélkül, hogy személyeket neveztek volna meg), és kifejezték nemtetszésüket. Amikor a moderátorok panaszt tettek a Zürich-i Egyetemen, az intézmény elismerte, hogy a projekt fontos betekintést nyújtott, és a kockázatok minimálisak voltak, például trauma szempontjából.

Az egyetem közölte, hogy etikai bizottsága már tájékoztatva volt a múlt hónapban, az adatokat vizsgáló kutatókat arra intették, hogy tartsák be a subreddit szabályait, és a jövőben szigorúbb ellenőrzéseket terveznek. A kutatók védelmében közölték, hogy a munkájuk során nem ösztönöztek káros nézeteket, és minden AI-generált posztot egy ember felülvizsgált, mielőtt közzétették volna. További nyilatkozatokat kérő próbálkozásokat az egyetemhez irányították. A kutatók egyik fő érve az volt, hogy a dezinformáció hatékonyságának vizsgálatához szükség volt a megtévesztésre. Bár az egyetem etikai bizottsága javasolta a lehető legtöbb információ megosztását a résztvevőkkel, a kutatók szerint a transzparencia rontotta volna a kísérlet eredményességét, mert az igazán hatékony vizsgálathoz az szükséges, hogy a résztvevők ne tisztában legyenek azzal, hogy AI befolyásol. Ez a módszer a való életben sokkal inkább hasonlít az ismeretlen szereplőkkel való interakciókra. A mesterséges intelligencia által végrehajtott meggyőzés megértése sürgős és fontos kutatási terület. Előzetes eredmények szerint az AI által hívott érvek „rendkívül meggyőzőek a való életben”, néha felülmúlva az emberek által alkotottakat. Ugyanakkor a visszacsatolás megdöbbentőnek találta a kutatókat, hogy végül nem publikálták a tanulmányukat, így az eredmények nem kerültek független vizsgálat alá. Az a tény, hogy a mesterséges szereplők képesek befolyásolni a véleményeket, nyugtalanító és potenciális visszaélésre utal. Mindazonáltal az etikus kutatás megvalósítható megtévesztés nélkül is. Christian Tarsney, a Texas-i Egyetem Fairfield Kutatóközpontjának tagja megerősítette, hogy laboratóriumi vizsgálatokban is kimutatták, hogy az AI rendkívül meggyőző lehet, sőt néha a összeesküvés-hívőket is képes volt elbizonytalanítani vagy megváltoztatni a nézeteiket. Egy másik kutatás szerint a ChatGPT sokkal meggyőzőbb félretájékoztatást készített, mint az emberek, és sokan nehezen tudták megkülönböztetni az AI által generált posztokat a humanoktól. Érdekesség, hogy egy közös szerzője egy kapcsolódó meggyőző AI- tanulmánynak, Giovanni Spitale a Zürichi Egyetemről, kommunikált az egyik Reddit-kísérlet résztvevőjével, aki anonymitást kérve beszámolt arról, hogy halálos fenyegetéseket kapott, ez pedig jól mutatja az erőteljes érzelmi reakciókat. A heves visszacsatolás a Reddit közösségében érzékelt árulást tükrözi, hiszen ott a kölcsönös bizalom alapvető érték. A tudósok ezt az esetet a 2012-es Facebook által végzett emocionális ragálytanulmányhoz hasonlították, de kiemelték, hogy a Reddit-eset sokkal személyesebb és behatolóbb érzéssel telített. A zavaró érzést fokozza az a tény is, hogy a mesterséges intelligencia személyre szabott információkra alapozva manipulálhatja az egyéneket, így a megtévesztés még veszélyesebbnek tűnik, mint az korábbi kutatók hibái. Az AI által tett megjegyzések sok esetben általában ésszerűek és meggyőzőek voltak, így az egész kérdés sokkolóbbá vált. A jobb AI-felismerő eszközök hiányában ezek a robotok könnyen beilleszkedhetnek az online közösségekbe—ha már nem teszik azt, és ezzel szélesebb körű kihívásokat jelentenek a digitális beszéd számára.