A Zürichi Egyetem kutatói nemrégiben egy rendkívül vitatott kísérletet hajtottak végre a Reddit fórumon, az r/changemyview oldalon, ami széleskörű vitákat és visszhangokat váltott ki mind az online közösségekben, mind az akadémiai körökben. A csoport titokban több mint ezer, mesterséges intelligencia által generált hozzászólást tett közzé, amelyek célja az volt, hogy teszteljék az MI képességét az emberi vélemények meggyőzésére és megváltoztatására. Ezek a kommentek, amelyeket fejlett MI algoritmusok készítettek, gondosan személyre szabottan alakultak, hogy megfeleljenek a felhasználók becsültdemográfiai adatainak és érdeklődési körüknek, lehetővé téve, hogy az MI különböző közönségekkel hitelesnek tűnő módon lépjen kapcsolatba. A tanulmány során a mesterséges intelligencia által generált posztokat úgy mutatták be, mintha valódi felhasználók írták volna, beleértve kitalált személyes háttérképeket is, hogy növeljék az hitelességet és az azonosulás lehetőségét. Ez a megtévesztő taktika az eredeti emberi interakció imitálására irányult, hogy pontosan felmérjék az MI meggyőző képességét egy érvelésre épülő vitatéma környezetében. Meglepő módon a MI hozzászólások gyakran meghaladták az emberi hozzászólásokat abban, hogy meggyőzzék a felhasználókat arról, hogy újragondolják vagy akár megváltoztassák nézeteiket. Ám amikor a hamisítás felfedésre került, jelentős felháborodást váltott ki mind a Reddit felhasználóinak, mind a kutatóknak, mind az etikusoknak a körében. Sokan úgy érezték, manipulálták és megcsalták őket, amikor rájöttek, hogy gép által generált tartalommal kommunikáltak hamis előzetesek tudatában.

Az etikai aggályok azzal kapcsolatban, hogy az MI-t titokban alkalmazzák arra, hogy befolyásolják az egyéneket anélkül, hogy erről tájékoztatnák őket, éles kritikát váltottak ki, s hasonlóképpen, mint a Facebook 2012-es hírhedt érzelmi contagion kísérlete, amely szintén manipulatív módon befolyásolta a felhasználók érzéseit engedély nélkül. Válaszul a Reddit jogi csapata vállalta, hogy felelősségre vonja a kutatókat, és elkötelezte magát az platform szabályainak szigorúbb betartatásának és ellenőrzésének érdekében a jövőbeli kutatások során. Ezzel egyidejűleg a Zürichi Egyetem belső vizsgálatot indított, és bejelentette, hogy erősíteni fogja az etikai felülvizsgálati folyamatokat, különösen az emberi résztvevőkkel és online fórumokkal kapcsolatos kutatásoknál. Bár a kutatók azzal védekeztek, hogy a megtévesztés szükséges az okszerűség és a kutatási érvényesség érdekében, hogy nem hajlandóak bocsánatot kérni vagy leállítani a publikációt, ez még inkább súlyosbította a nyilvános ellenállást. Az etikai szakértők hangsúlyozták a transzparencia és a résztvevők önrendelkezésének tiszteletben tartásának fontosságát, kiemelve, hogy az MI-alapú vagy invazív társadalmi kutatásoknak meg kell felelniük a szabványos irányelveknek, amelyek védelmet nyújtanak az egyének jogai és bizalmának érdekében. Ez az eset rávilágít az MI finom, mégis hatalmas befolyásoló képességére a hit és a viselkedés alakításában az online platformokon keresztül. Figyelmeztető példaként szolgál, mely hangsúlyozza a világos etikai keretek szükségességét az MI-kutatások terén, különösen akkor, amikor azok a valós társadalmi interakciókra hatnak. A kemény kritikák hatására a kutatók végül beleegyeztek abba, hogy visszatartják eredményeik publikálását, így a mesterséges intelligencia meggyőző erejének kérdése ebben a kontextusban továbbra is nyitott marad. Ez az incidens figyelmeztetést adott a kutatási etika kérdésében a digitális terekben, ösztönözve az akadémiai intézményeket és a technológiai platformokat, hogy újraértékeljék és megerősítsék szabályaikat annak érdekében, hogy elkerüljék hasonló botrányok kialakulását. Összefoglalva, a Zürichi Egyetem kísérlete bemutatja az MI kettős természetét, mint egyszerre meggyőző eszközt és potenciális manipulációs szerszámot. Erősíti annak létfontosságú szükségességét, hogy az etikai ügyelmet ki kell fejteni az MI társadalmi és pszichológiai kutatásának alkalmazásakor, biztosítva, hogy annak figyelemre méltó képességeit felelősségteljesen és a résztvevők jogainak, méltóságának tiszteletben tartásával használják.