Noon lang ang nakalipas, muling Nagkaroon ng pagbabago sa pangalan ang Reddit bilang “ang puso ng internet, ” na binibigyang-diin ang natural at komunidad na nakasentro dito kumpara sa mga social media platform na dominated ng mga algorithm. Pinahalagahan ng mga gumagamit ang site dahil ito ay pinipili ng mga tao sa pamamagitan ng upvotes at downvotes, na nagpapakita ng tunay na interaksyon ng tao. Gayunpaman, mas maaga nitong linggo, natuklasan ng mga miyembro ng isang popular na subreddit na nabakuran ng mga undercover na mananaliksik na nagpasok ng AI-generated na mga komento na nakatago bilang mga opinyon ng tao. Malakas ang naging tugon ng mga Redditors, tinawag nilang “panggagahwa, ” “karumal-dumal, ” “nakakainis, ” at “napaka-disturbing. ” Tahimik ang mga mananaliksik sa gitna ng backlash at tumangging ibunyag ang kanilang pagkakakilanlan o pamamaraan. Anunsyo ng University of Zurich, na nagtatrabaho sa mga mananaliksik, ay nagsagawa ng imbestigasyon, at sinabi ng chief legal officer ng Reddit na si Ben Lee na nais nilang panagutin ang mga mananaliksik. Pina­la­bana rin ng mga internet researcher ang experiment bilang isang unethical na gawain. Si Amy Bruckman, isang propesor sa Georgia Tech na nagsusuri ng online na komunidad nang mahigit 20 taon, ay tinawag itong “pinakamalalang paglabag sa ethics sa pananaliksik sa internet na aking nakita. ” Binanggit din ang pag-aalala na maaaring masira ang kredibilidad ng mga scholars na gumagamit ng ethical na pamamaraan upang pag-aralan kung paano naaapektuhan ng AI ang pagiisip at ugnayan ng tao. Layunin ng mga researcher sa Zurich na malaman kung makakabago ang mga AI-generated na sagot sa pagbabago ng opinyon sa pamamagitan ng paglalathala ng mahigit 1, 000 AI-crafted na komento sa loob ng apat na buwan sa subreddit na r/changemyview, na kilala sa mga debate tungkol sa mahahalagang isyu sa lipunan at mga trivial na paksa. Sinasaklaw ng mga talakayan mula sa agresyon ng pitbull hanggang sa krisis sa pabahay at mga DEI program. Minsan, ang mga AI posts ay naglalaman ng mga kontrobersyal na ideya—tulad ng pagsasabi na nakasasayang ang pagbrowse sa Reddit o pag-suggest na may halagang kabutihan ang mga conspiracy theories tungkol sa 9/11—at nagsasama rin ng mga gawa-gawang personal na kwento, tulad ng trauma counselor o biktima ng statutory rape. Ang mga personalized na argumento ng AI—na nakasentro sa mga impormasyon tulad ng kasarian, edad, at panig sa politika na maaaring nakalap mula sa isang AI model—ay nakapagpakita ng kamangha-manghang epektividad. Nakakuha ang mga komento ng mas mataas na puntos sa subreddit kaysa sa karamihan ng mga posts ng tao, ayon sa paunang datos na lihim na ibinahagi sa mga moderator ng Reddit. (Ibinabatay ito sa palagay na walang ibang AI users na nagpa-personalize rin ng kanilang mga posts. ) Naging mahirap ipaliwanag sa mga Redditor na makatarungan ang lihim na pananaliksik. Pagkatapos ng experiment, ibinahagi ng mga researcher ang kanilang pagkakakilanlan sa mga moderator ng subreddit at humiling ng “debrief. ” Nagulat ang mga moderator sa negatibong reaksyon at hiningi na hindi ilathala ang mga resulta at mag-sorry ang mga researcher, ngunit tumanggi sila. Matapos ang mahigit isang buwan na komunikasyon, ipinahayag ng mga moderator nang publiko ang mga detalye ng eksperimento (kahit walang pangalan ng mga researcher) at naghayag ng kanilang pagtutol. Nang nagreklamo ang mga moderator sa University of Zurich, tiniyak ng unibersidad na nagbigay ito ng mahahalagang insight ang proyekto at itinuturing nilang maliit ang panganib, tulad ng trauma. Ayon sa kanila, ipinaalam na nila noong nakaraang buwan ang kanilang ethics board, at inatasan ang mga researcher na sumunod sa mga patakaran ng subreddit, at planong magpatupad ng mas mahigpit na pangangasiwa sa hinaharap.

Pinagtanggol ng mga researcher ang kanilang trabaho sa Reddit, na nagsasabing walang mga komento na nagpo-promote ng mapanganib na mga pananaw, at bawat AI-generated na post ay sinuri ng tao bago isumite. Ang pagtatangkang humingi pa ng komento mula sa mga researcher ay itinuro sa unibersidad. Pangunahing palagay ng mga researcher ang pahayag na ang panlilinlang ay kinakailangan upang mapanatili ang bisa ng pag-aaral. Bagamat inirekomenda ng ethics board ng unibersidad na ipaalam nang husto sa mga kalahok, iginiit ng mga researcher na kapag naging bukas sila, masasakripisyo ang eksperimento dahil ang totoong susi sa pagsubok ng kakayahan ng AI na manghikayat ay ang hindi pagiging nalalaman ng mga kalahok, na katulad ng aktwal na interaksyon sa totoong buhay sa mga hindi kilalang laban. Mahalaga at karapat-dapat na pag-aralan ang pag-react ng tao sa panghihikayat ng AI. Ipinapakita ng mga paunang resulta na ang mga argumento ng AI ay “napakahikayat sa mga totoong konteksto, ” na nag-ambag sa mas mataas na merkado kaysa sa mga tao. Ngunit, matapos ang backlash, pumayag ang mga researcher na hindi ilalathala ang kanilang papel, kaya ang mga resulta ay nananatiling hindi pa na-verify. Nakababahala ang ideya na ang mga artipisyal na ahente ay maaaring makaimpluwensya ng opinyon, na nagbubunsod sa posibleng pang-aabuso. Gayunpaman, nananatiling posible ang etikal na pananaliksik nang walang panlilinlang. Si Christian Tarsney, isang senior fellow sa University of Texas sa Austin, ay nagpapatunay na may mga pag-aaral sa laboratoryo na nagsasabing mataas din ang persuasive power ng AI, na minsang nagbunsod pa sa mga naniniwala sa conspiracy na umalis sa kanilang mga paniniwala. Ipinakita rin ng ibang pag-aaral na mas nakakabuo ang ChatGPT ng mas mahikayat na disimpormasyon kaysa sa tao at nahihirapan ang mga tao na makilala ang AI-generated na mga post mula sa gawa ng tao. Nakapukaw-pansin, ang isang co-author ng isang kaugnay na pag-aaral sa persuasive-AI, si Giovanni Spitale mula sa University of Zurich, ay nakipag-ugnayan sa isa sa mga eksperto sa Reddit na humiling ng pagiging lihim at nagsabi na nakakatanggap siya ng mga pagbabanta ng kamatayan, na naglalantad ng matinding emosyonal na reaksyon. Ang matinding backlash ay nagsasalamin sa pagkadismaya at pagtitiwalang nasira sa malapit na komunidad ng Reddit, kung saan nakasalalay ang mutual na pagtitiwala. Ginaya ng ilang eksperto ang insidente sa pag-aaral sa Facebook noong 2012 tungkol sa emosyunal na kontagion, ngunit napansin nilang ang kaso sa Reddit ay mas personal at mas nakakaabala. Ang pangamba ay lalong tumataas sanhi ng pagkakatuklas na maaaring manipulahin ng AI ang mga tao sa pamamagitan ng paggamit ng mga personal na impormasyon, na mas nakababahala kaysa sa mga pagkakamaling nagawa ng mga tao sa nakaraan. Sinuri ang maraming AI comments at madalas ay nakitang makatwirang-makatwiran ang mga ito at nakakahikayat, na mas nagpapalala sa sitwasyon. Kung walang mas mahusay na mga tool sa pagtuklas ng AI, ang mga bot na ito ay may panganib na makapasok nang tuloy-tuloy sa mga online na komunidad—kung hindi pa nga sila aktibong nagagawa—na nagdudulot ng mga mas malalaking hamon para sa digital na diskurso.